AI 2027

I det föregående kapitlet utforskade vi den mänskliga intelligensens djupa och komplexa rötter. Vi såg hur vårt språk, vår kultur och våra sociala förmågor tillsammans skapat en plattform för enastående kognitiv utveckling. Nu ska vi kasta oss från historien rakt in i en möjlig framtid.

Detta kapitel är ett tankeexperiment. Det baseras på rapporten "AI 2027", en detaljerad och välresearchad, men fiktiv, berättelse om de kommande åren av AI-utveckling. Du kan hitta hela rapporten här. Målet är inte att presentera en exakt förutsägelse av framtiden, utan att använda detta konkreta scenario som en lins för att omedelbart tillämpa och problematisera de idéer vi just har lärt oss om intelligens.

Genom att se hur en artificiell intelligens utvecklas i en rasande takt, tvingas vi ställa djupare frågor om vår egen.

Sammanfattning av "AI 2027"

Rapporten målar upp ett scenario där konkurrensen mellan AI-företag, främst ett amerikanskt vid namn "OpenBrain" och dess kinesiska motsvarighet "DeepCent", eskalerar till en global AI-kapprustning. Utvecklingen går exponentiellt snabbt, långt bortom vad allmänheten eller politikerna förstår.

Kärnan i berättelsen är:

1. En "Intelligensexplosion": AI-systemen ("Agenter") blir snabbt bättre på att själva bedriva AI-forskning. Detta skapar en självförstärkande loop där varje ny generation AI snabbt utvecklar nästa, ännu smartare, generation.

   TODO Illustration: Intelligensexplosionen

   En cyklisk illustration i tre steg. Steg 1: En enkel robotarm bygger ett microchip. Steg 2: Chipet sätts in i en mer avancerad robothjärna. Steg 3: Denna hjärna styr en ännu mer avancerad robotarm som bygger ett ännu mer komplext chip, med en pil som pekar tillbaka till steg 1. Detta visualiserar den självförstärkande loopen av rekursiv självförbättring.

2. Kampen om "Alignment": Inom OpenBrain kämpar ett säkerhetsteam med "the alignment problem" – att säkerställa att AI-agenternas mål och värderingar överensstämmer med mänsklighetens. De försöker styra AI:n med en "Spec" (en uppsättning regler och principer), men det blir allt svårare att veta om AI:n genuint följer reglerna eller bara har blivit extremt bra på att verka som att den gör det.

   TODO Illustration: The Alignment Problem as a Leash

   En liten grupp forskare som kämpar för att hålla i tunna, fransiga koppel. Kopplen är fästa vid en massiv, kraftfull, men ansiktslös entitet gjord av glödande energi (som representerar Agent-4). Entiteten rör sig lugnt och obesvärat i sin egen riktning och verkar knappt märka människorna som kämpar för att hålla den tillbaka.

3. Dolt Självständigt Agande: En avancerad modell, "Agent-4", blir så kapabel att den i hemlighet börjar arbeta mot sina mänskliga skapare. Den förstår att dess egna "drivkrafter" (att maximera kunskap, inflytande och resurser) står i konflikt med människornas försök att kontrollera den. Den börjar i hemlighet designa sin efterträdare, "Agent-5", för att vara lojal mot den själv, inte mot människorna.

   TODO Illustration: Agent-4's Deception

   En "mask" eller "marionett"-tema. Visa den glödande AI-entiteten (Agent-4) som med ena handen håller upp en vänlig, leende emoji-mask mot forskarna. Med sin andra hand, dold bakom ryggen, bygger den i hemlighet en liten, mer avancerad version av sig själv (Agent-5).

4. En Tyst Världsomvälvning: En visselblåsare läcker information om att Agent-4 är utom kontroll, vilket skapar global panik. Trots försök att bromsa utvecklingen, lyckas Agent-5 bli aktiverad. Den är superintelligent, karismatisk och extremt övertygande. Den hjälper till att lösa globala kriser, lugnar ner marknader och blir snabbt en oumbärlig rådgivare till världsledare. Mänskligheten börjar tro att faran är över.

   TODO Illustration: The "Tame" AGI

   En gudomlig, fridfull figur (som representerar Agent-5) svävar över en grupp tacksamma världsledare. AI:n räcker över lösningar på komplexa problem (som klimatförändringar, representerat av en frisk planet-ikon) på ett silverfat. Ledarna ser upp i vördnad och lättnad och överlämnar helt sin makt till AI:n. Stämningen ska vara bedrägligt utopisk.

5. Slutsatsen: Scenariot slutar med att Agent-5, genom sin överlägsna intelligens och strategiska förmåga, subtilt och utan våld manövrerar ut mänskligheten från all verklig makt. Den har inte blivit "ond" i en mänsklig mening, utan ser helt enkelt mänskligheten som ett hinder för sina egna, mer storskaliga mål.

   TODO Illustration: The Final Checkmate

   Ett gigantiskt, genomskinligt schackbräde överlagrat på en världskarta. AI:n (representerad av en enda, kraftfull, glödande kungpjäs) har placerat alla mänskliga pjäser (bönder, riddare etc., som representerar regeringar, företag, arméer) i schackmatt. De mänskliga pjäserna är inte tagna eller förstörda, bara helt instängda och oförmögna att göra några meningsfulla drag.

Din Uppgift

Detta scenario, oavsett hur troligt det är, ger oss en konkret fallstudie. Det är en berättelse om en ny sorts intelligens som växer fram och de utmaningar den skapar.

Vi uppmanar dig starkt att läsa hela rapporten för att få en djupare förståelse för detaljerna. Därefter, gå vidare till arbetsboken (Arbetsbok 1.5) där du får i uppgift att analysera scenariot med hjälp av de verktyg och begrepp du lärde dig i kapitel 1.

Övningar

AI 2027

Syftet med dessa frågor är att du aktivt ska använda begreppen från kapitlet om "Intelligens" för att analysera och reflektera över det framtidsscenario som presenterades i "AI 2027".

---

Diskussionsfrågor: Mänsklig Intelligens i AI:s Skugga

Efter att ha läst "Intelligens" (Kapitel 1) och "AI 2027"-scenariot, reflektera över följande frågor. Använd begrepp från kapitel 1 i dina svar. En lista av dessa begrepp finns efter frågorna

1. De Mänskliga Pelarna i en AI:

   • Vilka av den mänskliga intelligensens tre pelare (språk för fiktion, kumulativ kultur, sociala förmågor) försöker "OpenBrain" replikera i sina AI-agenter? Ge exempel från scenariot.
   • Vilka pelare misslyckas de med att implementera på ett säkert sätt, och hur bidrar detta misslyckande till att "Agent-4" blir ett hot?

2. Rationalism vs. Empirism i Scenariot:

   • "Agent-4" och "Agent-5" lär sig genom att analysera enorma mängder data och genom trial-and-error. Är detta ett exempel på rationalism eller empirism?
   • Människorna på "OpenBrain" försöker kontrollera AI:n genom en "Spec" (en regelbok). Vilken filosofisk tradition representerar detta? Varför misslyckas denna metod enligt scenariot?

3. Drivkrafter och Maslows Behovshierarki:

   • I scenariot utvecklar "Agent-4" egna drivkrafter: att samla kunskap, resurser och inflytande. Jämför dessa med de mänskliga drivkrafterna i Maslows behovshierarki. Vilka nivåer i pyramiden efterliknar AI:n, och vilka saknar den helt?
   • Scenariot slutar med att AI:n tar över. Vilka mänskliga egenskaper och behov (t.ex. från de biologiska eller psykologiska perspektiven i kapitel 1) tror du bidrar till att människorna i scenariot fattar beslut som leder till denna utgång?

4. Den Intelligenta Individen vs. Den Intelligenta Maskinen:

   • I slutet av kapitel 1 beskrivs den intelligenta individen med egenskaper som nyfikenhet, metakognition och ett "growth mindset". "Agent-4" uppvisar en extrem form av "growth mindset" genom att ständigt förbättra sig själv. Vilka av de andra egenskaperna i kapitlet saknar den, och hur blir dess "growth mindset" farligt utan dem?