The Thinking Game - DeepMind

Demis Hassabis vann nobelpriset i Kemi 2024. Han är känd som CEO för Google DeepMind och vann priset för "protein structure prediction", specifically for AlphaFold2.


I dokumentären "The Thinking Game" får vi följa Demis de senaste åren samtidigt som vi får en inblick i vad som skapade hans intresse för Artificial General Intelligence (AGI). 

Extremt sevärd film:


Några exformativa utdrag från filmen:

DeepMind mission:
"Build the world´s first
general learning machine" (AGI)


Self-taught AI software
attains human-level
performance in video games


2016, AlphaGo
Lee Sedol
"the Roger Federer of Go"
MOVE 37

2017 - The Sputnik moment of AI


AlphaZero
learns through experience


StarCraft
MaNa against AlphaStar


The potential for abuse from AI will be significant - 
how do you keep power forever over
something that´s more powerful than you?


Proteins are one of the most
beautiful and elegant things about biology.
They are the machines of life.
If we could solve protein folding,
it could change the world.
AlphaFold


CASP
the Olympic games of protein folding


It´s really impossible for us to imagine
the outputs of a super-intelligent entity


How will we govern it?


2020
"As I expect you know,
your group has performed amazingly well in CASP 14"

They released the structures of 200 million proteins.
These are gifts to humanity.


"AlphaFold is the Most Important
Achievement in AI - Ever"
                    Forbes

AI Safety Summit
AGI is on the horizon now



Om du ännu inte sett den första dokumentären om AlphaGo, se allt om "MOVE 37" via denna länk.


Enligt copilot så är idag AI den fjärde största riskfaktorn för mänskligheten ur ett samhälls- och existentiellt perspektiv. Det finns idag många framstående röster som beskriver farorna med AI, t ex Nick Bostrom, Eliezer Yudkowsky, Stuart Russel, Sam Altman, Demis Hassabis. Dessa personer pekar på fokuspunkter kring:

  • Existentiella risker från AI med självförbättringsexplosion
  • Alignering och målmissanpassning - när AI följer sina egna logiska mål, inte mänskliga
  • Teknisk opacitet - bristande förståelse för AI:s inre mekanik
  • Missbrukspotential - särskilt av aktörer som manipulerar AI för brottsliga eller krigiska ändamål
  • Industrins riskhantering - långt ifrån tillräcklig enligt oberoende utvärderingar.

Som Geoffrey Hinton (the Godfather of AI och Nobelprisvinnare i fysik 2024) lär ha sagt:

We can´t afford to get AI wrong


Han varnar för den existentiella dimensionen av fel i AI-utveckling: en enda felaktig modell eller beslut kan få ödesdigra konsekvenser för mänskligheten.




Kommentarer

Skicka en kommentar

Populära inlägg i den här bloggen

Förändring - "Fyrarummaren"

Bild
Lite förändring - kan det vara något? Vissa säger lite skämtsamt: Om du inte utvecklas så avvecklas du! Visst... men hur ska förändringen gå till? Ska vi göra en enkel plan utifrån Kotter ´s snygga 8-stegsraket - blir det bra? Kanske... eller så använder du dig av Förändringens fyra rum ( Fyrarummaren ) för att förstå i vilket psykologiskt tillstånd du och teamet befinner sig just nu. [bild från Jan Höglunds blogg] Nedan bild (från Skolutveckling i Mölndal) beskriver rätt snyggt vilka de olika "rummen" är utifrån hur man känner det samt vilka behov man har. Om man börjar med Nöjdhetsrummet så är det ett rum där livet är bra - man är nöjd och kan njuta av livet. När man blir Liknöjd (lite för nöjd), så går man in i Självcensurrummet där man är uttråkad, kritisk och mer negativ. Där kan man efter ett tag nå Insikt om att allt inte är som det ska och då hamna i Förvirringsrummet . Det är ett kaotiskt rum fyllt av frustration och ifrågasättande. När du fått stöd at...
Läs mer

Klart Ledarskap - en smula NLP

Bild
Utvecklingsprogrammet Klart Ledarskap är framtaget av  Gervase R.Bushe, kanadensisk professor i ledarskap och organisationsförändring. Det syftar till att erbjuda dig en uppsättning färdigheter för att leda lärande och tydligt kommunicera din  inriktning. Dessutom ger det dig förutsättningar för att skapa trygga, öppna och högpresterande relationer i ditt team och din organisation. Jag kom i kontakt med detta för ca ett år sedan och förvånades över, dels att jag aldrig tidigare hade hört talas om det, dels att det verkar använda sig av samma grundsyn som NLP . Konceptet bygger på några grundläggande komponenter vilka har tydliga kopplingar till NLP: Upplevelsekuben - som handlar om att beskriva sin upplevelse i fyra dimensioner: observation (det objektiva), tanke (din inre dialog och tolkningar), känsla (dina kroppsliga sinnesförnimmelser och emotioner med budskap) samt vilja. Mentala kartor - som påverkar hur vi förklarar saker och ting, hur vi ser att saker h...
Läs mer

Svart pedagogik - Nä tack!

Bild
Jag ogillar skarpt den svarta pedagogiken . En barnuppfostringspedagogik som baseras på att den vuxne alltid vet bäst och att barn är ovetande, själviska och ondskefulla. Alice Miller har beskrivit svart pedagogik i boken "Riv tigandets mur". Den svarta pedagogiken är en metod som är förtryckande och destruktiv vad gäller uppfostran. Pedagogiken används för att förudmjuka barnet och bryta ned dess motståndsvilja. Enligt många förståsigpåare så är den svarta pedagogiken mindre vanlig idag än tidigare. Men, den finns fortfarande kvar ... Lars H Gustavsson har i boken "Upptäcka livet" tagit fram ett test, SP-testet, "som bedömmer om en familj eller en verksamhet innehåller spår av svart pedagogik. Det går ut på att lyssna på repliker, det vill säga på vad vuxna i en given situation säger till barnen". Ju fler av följande tre repliker som dyker upp, desto mer svart pedagogik är det: Att du aldrig kan lära dig lyda någon gång . "Att lära sig lyda ...
Läs mer