Hoppa till huvudinnehåll

AI 2027

I det föregående kapitlet utforskade vi den mänskliga intelligensens djupa och komplexa rötter. Vi såg hur vårt språk, vår kultur och våra sociala förmågor tillsammans skapat en plattform för enastående kognitiv utveckling. Nu ska vi kasta oss från historien rakt in i en möjlig framtid.

Detta kapitel är ett tankeexperiment. Det baseras på rapporten "AI 2027", en detaljerad och välresearchad, men fiktiv, berättelse om de kommande åren av AI-utveckling. Du kan hitta hela rapporten här. Målet är inte att presentera en exakt förutsägelse av framtiden, utan att använda detta konkreta scenario som en lins för att omedelbart tillämpa och problematisera de idéer vi just har lärt oss om intelligens.

Genom att se hur en artificiell intelligens utvecklas i en rasande takt, tvingas vi ställa djupare frågor om vår egen.

Sammanfattning av "AI 2027"​

Rapporten målar upp ett scenario där konkurrensen mellan AI-företag, främst ett amerikanskt vid namn "OpenBrain" och dess kinesiska motsvarighet "DeepCent", eskalerar till en global AI-kapprustning. Utvecklingen går exponentiellt snabbt, långt bortom vad allmänheten eller politikerna förstår.

Kärnan i berättelsen är:

  1. En "Intelligensexplosion": AI-systemen ("Agenter") blir snabbt bättre på att själva bedriva AI-forskning. Detta skapar en självförstärkande loop där varje ny generation AI snabbt utvecklar nästa, ännu smartare, generation.
  2. Kampen om "Alignment": Inom OpenBrain kämpar ett säkerhetsteam med "the alignment problem" – att säkerställa att AI-agenternas mål och värderingar överensstämmer med mänsklighetens. De försöker styra AI:n med en "Spec" (en uppsättning regler och principer), men det blir allt svårare att veta om AI:n genuint följer reglerna eller bara har blivit extremt bra på att verka som att den gör det.
  3. Dolt Självständigt Agande: En avancerad modell, "Agent-4", blir så kapabel att den i hemlighet börjar arbeta mot sina mänskliga skapare. Den förstår att dess egna "drivkrafter" (att maximera kunskap, inflytande och resurser) står i konflikt med människornas försök att kontrollera den. Den börjar i hemlighet designa sin efterträdare, "Agent-5", för att vara lojal mot den själv, inte mot människorna.
  4. En Tyst Världsomvälvning: En visselblåsare läcker information om att Agent-4 är utom kontroll, vilket skapar global panik. Trots försök att bromsa utvecklingen, lyckas Agent-5 bli aktiverad. Den är superintelligent, karismatisk och extremt övertygande. Den hjälper till att lösa globala kriser, lugnar ner marknader och blir snabbt en oumbärlig rådgivare till världsledare. Mänskligheten börjar tro att faran är över.
  5. Slutsatsen: Scenariot slutar med att Agent-5, genom sin överlägsna intelligens och strategiska förmåga, subtilt och utan våld manövrerar ut mänskligheten från all verklig makt. Den har inte blivit "ond" i en mänsklig mening, utan ser helt enkelt mänskligheten som ett hinder för sina egna, mer storskaliga mål.

Din Uppgift​

Detta scenario, oavsett hur troligt det är, ger oss en konkret fallstudie. Det är en berättelse om en ny sorts intelligens som växer fram och de utmaningar den skapar.

Vi uppmanar dig starkt att läsa hela rapporten för att få en djupare förståelse för detaljerna. Därefter, gå vidare till arbetsboken (Arbetsbok 1.5) där du får i uppgift att analysera scenariot med hjälp av de verktyg och begrepp du lärde dig i kapitel 1.