Från Skype och en Köpenhamnstaxi till Artificiell Intelligens och existentiell risk

Huw Price är Bertrand Russell Professor i filosofi och Fellow vid Trinity College vid Cambridge-universitetet.

Sommaren 2011 delade han en taxi i Köpenhamn med den estniske programmeraren Jaan Tallin som var en av skaparna av Skype, en av de allra största IT-innovationerna någonsin. Dom började prata om de risker som mänskligheten löper allteftersom datorerna blir allt mer intelligenta. Är det kanske inte oundvikligt att maskinintelligensen förr eller senare kommer att passera den mänskliga?

Som Huw Price skriver så är vår egen intelligens synnerligen begränsad. Den måste passa i våra kranier, den måste också vara liten nog att kunna passera igenom födelsekanalen när vi föds och inte konsumera mer än omkring 1000 kalorier per dag.

Så Price, Tallin och den inte helt okände Martin Rees har startat The Cambridge Project for Existential Risk för att studera de existentiella risker som mänskligheten antagligen kommer att löpa när datorintelligensen förr eller snarare passerar den mänskliga.

Huw Price skriver en mycket viktig och synnerligen intressant artikel i New York Times om det här fascinerande ämnet: Cambridge, Cabs and Copenhagen: My Route to Existential Risk

These are my reasons for thinking that at some point over the horizon, there’s a major tipping point awaiting us, when intelligence escapes its biological constraints; and that it is far from clear that that’s good news, from our point of view. To sum it up briefly, the argument rests on three propositions: (i) the level and general shape of human intelligence is highly contingent, a product of biological constraints and accidents; (ii) despite its contingency in the big scheme of things, it is essential to us – it is who we are, more or less, and it accounts for our success; (iii) technology is likely to give us the means to bypass the biological constraints, either altering our own minds or constructing machines with comparable capabilities, and thereby reforming the landscape.

But how far away might this tipping point be, and will it ever happen at all? This brings me back to the most contested claim of these three – the assertion that nonbiological machines are likely, at some point, to be as intelligent or more intelligent than the “biological machines” we have in our skulls.

Läs hela artikeln. Jag har läst den flera gånger. Price ställer ett antal mycket intressanta frågor. Som om vi inte är beredda att erkänna att datorintelligensen någonsin kommer att passera människans, hur intelligenta tror vi att datorn kan komma att bli? Lika intelligent som en myra? Som en mus, en fågel, en ko?

Var går gränsen? Och även om vi inte tror att datorer kommer att kunna skriva skönlitteratur, så kanske inte det är det väsentliga. Räcker det inte om datorerna kan styra världen bättre än vi själva.

Datorerna är t.ex. mycket bättre än vi människor på att flyga jumbojetar, på att köra bil (Googles självstyrande bil), på att investera på aktiemarknaden (börsrobotar), på att spela schack, och börjar nu också bli bra på att ställa medicinska diagnoser osv.

Det intressanta med Huw Prices artikel är inte nödvändigtvis hans slutsatser utan hur han som filosof går till väga för att analysera problemet. Det här filosofisk analys på allra högsta nivå. Läs och beundra.

Pressklipp:
Självreparerande dator får miljardanslag, Väcker slumrande robot på havsbotten,Här är robotarnas nyaste jaktmarker

Svenska bloggar om: Huw Price, Bertrand Russell, Jaan Talli, Existential Risk, Artificiell Intelligens, Martin Rees, Cambridge Project for Existential Risk, Datorer och människor