Tänkande maskiner - vi måste prata om A.I.

Jag har den senaste veckan läst boken "Tänkande maskiner - den artificiella intelligensens genombrott" skriven av Olle Häggström (bild ovan från artikel i Ny Teknik). Det är uppenbart att utvecklingen av A.I. (artificiell intelligens) medför många möjligheter till nya lösningar som kan underlätta livet för oss människor. Det som dock oroar många forskare inom AI-området är risken kopplad till den dag då AI blir smartare än människor. I boken Tänkande maskiner går Olle Häggström igenom de framtidsfrågor som AI väcker. Från bokens baksida:

"Utifrån en grundläggande entusiasm för AI-teknikens potential i mänsklighetens tjänst sorterar han fram teknikens avigsidor och risker - och hur de kan bemästras. Den kapplöpningsmentalitet och oreflekterande framåtanda som idag dominerar AI-utvecklingen behöver ersättas med längre sikt och globalt samarbete. I detta vägval är det mänsklighetens framtid som står på spel."

Min egen personliga syn på AI-områdets framtid är att det verkar mycket troligt att vi människor kommer lyckas skapa AI som övertrumfar mänsklig allmänintelligens - antingen redan om tiotalet år eller dröjer det uppemot hundra år. Dock är det väldigt hög sannolikhet att det kommer ske förr eller senare. Det är därför viktigt att vi i god tid innan dess försöker begripa hur vi kan minimera risken för att AI "tar över världen" den dag AI blivit smartare än oss. 

I helgen surfade jag runt på Cmore´s hemsida och hittade en relativt ny dokumentär (från 2020) med titeln "Vi måste prata om A.I." (We need to talk about A.I). Den var väldigt pedagogisk och beskrev var vi står idag inom AI-området och pekade på de utmaningar som forskarna identifierat. Några begrepp som lyftes fram och som vi alla behöver "läsa in oss på" är (min egen x4mat!va summering):

Superintelligens

Har den medvetande (consciousness)?

Barnvagnsdilemmat (the trolley problem)

Målinriktning (goal alignment)

Singulariteten

Först på marknaden

AI-säkerhet (safety)

Självstyrande vapen (autonomous weapon)

Robotrevolutionen

Kollektivt medvetande

Transhumanism

Vi inser inte att vi behöver en plan

Vad ska människans roll vara i framtiden?

Ytterligare exempel, kolla gärna på denna animerade video "Should we be afraid of artificial intelligence" från Afterskool:

Alternativt, kolla in denna magiska föreläsning av Sam Harris på TED 2016 "Can we build AI without losing control over it":

SLutligen, läs gärna mitt tidigare blogginlägg kopplat till boken Liv 3.0 skriven av Max Tegmark - "vad är medvetande?".