20 januari 2020

Vad är medvetande - Liv 3.0... medvetna AI-system!

Den svenske MIT-professorn Max Tegmark har skrivit boken "Liv 3.0 - att vara människa i den artificiella intelligensens tid". Ett av bokens kapitel handlar om medvetande. Max intresserad sig för hur man i framtiden ska kunna förstå vilka AI-system som är medvetna.



Några utdrag ur boken:


medvetande = subjektiv upplevelse
"Om det just nu känns någonting att vara du, är du således medveten"


Det finns två mysterier med medvetandet:
det enkla problemet - hur bearbetar en hjärna information? 
det svåra problemet - varför har man en subjektiv upplevelse?

det svåra problemet kan omvandlas till tre separata frågor,
Ganska svårt att lösa: 
Vilka fysiska egenskaper kännetecknar medvetna och omedvetna system?
Ännu svårare att lösa:
Hur avgör fysiska egenskaper hur upplevelsen är?
Riktigt svårt att lösa:
Varför är någonting medvetet?


Rutiner kan omvandlas från medvetna till omedvetna
genom omfattande övning,
t ex cykla, simma, köra bil, spela piano

Experter som utför sysslor inom sitt specialgebit gör det bäst
när de befinner sig i ett tillstånd av "flow"
(omedvetna om detaljer på lägre nivåer)

Omedveten informationsbearbetning                   
                           tycks vara mer regel än undantag.
Hjärnan är bara medveten om uppskattningsvis
30 bitar information per sekund.
Resterande sinnesintryck (10 megabit) är omedvetna.

Medveten informationsbehandling bör betraktas som hjärnans VD,
som enbart har hand om de viktigaste besluten och kräver
komplex analys av data från alla platser i hjärnan.

Modern forskning tyder på att medvetandet i huvudsak
håller till i Thalamus och bakre delen av hjärnbarken.


Det tar ca en kvarts sekund från det ögonblick då
ljuset från ett komplext objekt tränger in i ögat
tills du medvetet ser vad det är.
Ditt medvetande lever i det förflutna.

PCC
"medvetandets fysiska korrelat",
mönster av rörliga partiklar som är medvetna


Om medvetandet är sättet som information känns när den
 
bearbetas på vissa sätt, då måste det vara substrat-oberoende; 
det är bara informationsbearbetningens struktur som har betydelse,
inte strukturen hos materian som utför informationsbearbetningen
.

Fyra nödvändiga villkor för att garantera medvetande:
- betydande kapacitet att lagra information
- betydande kapacitet att bearbeta information
- betydande oberoende från övriga världen
- kan inte bestå av närapå oberoende delar

Om ett framtida AI-system är medvetet,
vad kommer det då att subjektivt uppleva?
Skulle ett artificiellt medvetande känna
att det hade en fri vilja?

Eftersom det inte kan finnas någon mening utan medvetande
 är det inte vårt universum som skänker mening åt medvetna varelser,
utan medvetna varelser som skänker mening åt vårt universum.

När vi människor gör oss redo att bli ödmjuka
 inför allt smartare maskiner kan vi söka tröst i
att vara Homo sentiens, inte Homo sapiens.


Man kan höra och se Max Tegmark, t ex i hans TED-talk från 2018 om "How to get empowered, not overpowered, by AI":


Inga kommentarer:

Skicka en kommentar