Artificiell intelligens, AI har fascinerat mig sen ungdomsåren, redan innan begreppet blivit allmänt känt. (AI-forskningen kan anses ha startat år 1956 vid Dartmouth Summer Project). Då tyckte jag det var spännande med tänkande maskiner. På senare år har jag blivit mer tveksam och den skepsisen förstärks efter läsningen av Bostroms bok.

Man kan i sammanhanget knappast låta bli att nämna Sf-filmen ”År 2001 – ett rymdäventyr” från 1968. Ombord på ett rymdskepp på väg att utforska Jupiter finns den med artificiell intelligens försedda datorn HAL 9000. Filmen illustrerar verkligen faran med att släppa lös en Superintelligens. Just det som Bostrom tar upp i sin bok.

Boken är förstås mer utförlig än så. Den beskriver olika teoretiskt tänkbara sätt att skapa superintelligens, t ex genom att påverka den mänskliga evolutionen eller genom hjärnemulering – att kopiera en mänsklig hjärna till digital form. Det verkar dock mest luta åt utveckling av maskinintelligens.

Den digitala superintelligensen kan skapas i olika form som Bostrom kallar Orakel (ett system som besvarar frågor), Andar (ett system som verkställer kommandon), Suveräner (ett system som är utformat för öppen autonom drift), Verktyg (ett system som inte är utformat för att uppvisa målinriktat beteende). Alla formerna, eller Kast som de kallas i boken har olika fördelar och nackdelar. Framför allt kontrollfunktionen, säkerheten tas upp. Förmågan till snabb självförbättring är just den avgörande egenskap som gör det möjligt för ett AI-frö att utlösa en intelligensexplosion.

Snabb superintelligens är ett system som kan göra allt som ett mänskligt intellekt kan göra, men mycket snabbare. Snabb uppåtsväng av intelligenskurvan, då ”lyftkraften” i systemet passerar en brytpunkt då fortsatta förbättringar i systemet främst drivs av systemets egna handlingar kan leda till singleton – en världsordning där det finns en enda beslutsfattande instans på global nivå. Kapitel 11 Multipolära scenarier tar upp vad som kan hända om flera snabbutvecklingar tillkommer samtidigt. Här blir det snarast fråga om statsvetenskap med förhandlingstaktik mellan två eller flera agenter, eller i värsta fall krig.

Ibland kan framställningen tyckas sväva ut lite väl långt i riktning mot science fiction. Men maskiner behöver varken mat eller luft att andas, så varför skulle de inte vilja ta över även världsrymden om ingen förprogrammerad moral eller försiktighet skulle hindra dem.

Värdeuppbyggnad i de maskiner man vill skapa måste av säkerhetsskäl på något sätt byggas in så att maskinen tar hänsyn till mänskliga värderingar och samtidigt undviker mänskliga brister. Flera kapitel mot slutet av boken behandlar riskerna med en utvecklad superintelligens.

Inför utsikterna till en intelligensexplosion i det sista kapitlet ”Dags att mobilisera” liknar Bostrom människorna vid små barn som leker med en bomb. ”Chansen att vi alla kommer att vara förståndiga nog att lägga ifrån oss den farliga grejen verkar nästan försumbar. Någon liten idiot kommer säkert att trycka på knappen bara för att se vad som händer”

Texten i översättning av Jim Jakobsson är klar, utförlig och verkar vara väl genomtänkt, facktermerna få. Men det gäller att vara koncentrerad om man ska hänga med i Bostroms tankekedjor.

Nick Bostrom (Nicklas Boström) född 1973 är en svensk filosof verksam vid Oxford University i Storbritannien. Han räknas till en av världens skarpaste hjärnor.

https://en.wikipedia.org/wiki/Nick_Bostrom
https://sv.wikipedia.org/wiki/Nick_Bostrom
https://www.nickbostrom.com/