Kan man filosofera om artificiell intelligens och framtidens datorer. Ja säger den svenskfödde Oxford-filosofen Nick Bostrom (ursprunglig svensk stavning: Niklas Boström), född 1973, med doktorsexamen från London School of Economics och idag verksam vid Oxfords universitet.

Att vi kan skapa intelligenta datasystem som kan vinna världsmästerskapet i schack, varje dag flyga tiotusentals jumbojättar, handla på börsen och nu även tyda röntgenplåtar visar att den artificiella intelligenser är på frammarsch.

Men framstegen görs inom vissa begränsade områden, så vår händiga gräsklipparrobot kan inte kommunicera med fönsterputsarroboten, som i sin tur inte kan kommunicera med vår behändiga dammsugarrobot. Som vi inte kan skicka till ICA för att handla.

Som filosof är Nick Bostrom intresserad av vad som kommer att ske den dag som robotarna och de allt mer avancerade datasystemen når till den punkt när de kan designa nästa generation av sig själva. En tidpunkt som mycket väl kan ligga hundra år eller längre framåt i tiden. Men som vi ändå kan börja tänka om redan idag.

Clever cogs. The potential impacts of intelligent machines on human life

…. Once intelligence is sufficiently well understood for a clever machine to be built, that machine may prove able to design a better version of itself. The cleverer it becomes, the quicker it would be able to design further upgrades. That could lead to an “intelligence explosion”, in which a machine arrives at a state where it is as far beyond humans as humans are beyond ants.

For some, that is an attractive prospect, as such godlike machines would be much better able than humans to run human affairs. But Mr Bostrom is not among them. The thought processes of such a machine, he argues, would be as alien to humans as human thought processes are to cockroaches. It is far from obvious that such a machine would have humanity’s best interests at heart—or, indeed, that it would care about humans at all.

Jag har skrivit om Nick Bostrom tidigare, han är en synnerligen stimulerande tänkare och tar upp frågor som gör det möjligt för oss att blicka in i framtiden.

Jag är själv övertygad om att dagens datasystem kommer att bli allt mer intelligenta. Jag tror dock inte att vi idag kan förutse i vilken riktning dom kommer att utvecklas. Det är en sak att vi människor kommer att kunna bygga allt smartare system. Det är en helt annan fråga om intelligenta system själva kommer att kunna konstruera nya versioner av sig själva. Det tror jag ligger flera hundra år i framtiden.

[tags]Svenske filosofen Nick Bostrom, Superintelligence: Paths, Dangers, Strategies.[/tags]