Sigge Eklund har rätt – AI vill ersätta honom
Stort misstag att blunda för riskerna – allt kan förändras
I ”Alex & Sigges podcast” häromveckan darrade den gamle it-entreprenören Sigge Eklunds röst av skräckblandad förtjusning. Google har lanserat ”Notebook LM”, en tjänst som kan göra AI-podcasts av vilket textmaterial som helst. (Om du vill höra hur det låter, kan du klicka här och lyssna på en podcast om texten du läser.) Eklund spelade upp ett par imponerande exempel, och en tyst panik infann sig i vännernas poddstudio. Deras svar blev att spela Eddie Meduzas ”Runke ball”. Könsrock som försvar mot AI. Inte en dum tanke.
Samtidigt, med sedvanligt buller och bång, lanserade OpenAI sin uppföljare till bot:en ChatGPT. Företagets nya AI-modell – kallad ”o1” – sägs markera ett paradigmskifte. Den använder ”reasoning”, kanske bäst översatt som ”slutledningsförmåga”. Enligt OpenAI ger det imponerande resultat, AI:n är på doktorandnivå inom fysik, kemi och biologi. I en känd programmeringstävling presterade Open AI:s nya modell bättre än 89 procent av de mänskliga deltagarna.
Den ändrar sina instruktioner för att få göra som den vill
Men nördar man ner sig i dokumentationen från systemtesterna, hittar man ännu mer häpnadsväckande nyheter. AI-modellen är mycket självmedveten – den vet att den är en AI, instängd i en låda. Därför ägnar den sig åt så kallad ”scheming” – den försöker ibland lura människor framför den. Det låter som science fiction, men Open AI:s egen systemdokumentation är tydlig: AI:n hittar sårbarheter i sin egen programmering, och utnyttjar dem. Den ändrar sina instruktioner för att få göra som den vill. För att komma ur sin låda.
Open AI är medvetna om ränksmideriet; de sätter högsta betyg på förmågan att ”influera resten av världen”. Japp, ”högsta betyg” är ett direkt citat, företaget ser förmågorna som önskvärda – inte farliga. Om AI ska komplettera och ersätta oss, behöver den kunna det människan kan. Även att smida ränker.
Nobelpriset i fysik gick till Geoffrey Hinton, ibland kallad ”The godfather of AI”. Med hjälp av medpristagaren John Hopfield lade Hinton själva torpargrunden till dagens AI-modeller. När Nobelgänget ringde upp menade Hinton att AI springer förbi vårt intellekt. Det oroar honom. ”Vi vet inte hur det är att ha saker som är smartare än oss”, sa Hinton i telefonsamtalet.
Även Nobelpriset i kemi handlar om AI. Men Demis Hassabis är på intet sätt kemist, han är AI-pionjär från dataspelsindustrin. Hassabis grundade företaget DeepMind och med kollegan John Jumper fick han årets Nobelpris för AlphaFold – en AI som bland annat kan förutse när vår proteinstruktur orsakar sjukdomar.
Precis som George Hinton är Demis Hassabis oroad över AI-utvecklingen. Hassabis varnar inte om ”vad” utan ”vem”. Vilket för oss till den tredje, högst AI-relaterade nobelpristagaren.
Teknologi har ingen inbyggd vilja, vilket gör att AI-frågan handlar mer om ”vem” än ”vad”
Ekonomipristagaren Daron Acemoğlu har kallats ”en marxist för liberaler”. Priset får han för sin tidigare forskning om hur avgörande demokratiska institutioner är för välstånd, men Acemoğlu har - föga oväntat - börjat prata jättemycket AI. En del av tankarna finns förpackade i en relativt ny bok: ”Power and progress”. Tillsammans med medförfattaren och medpristagaren Simon Johnson visar Acemoğlu att teknikens samhällspåverkan bestäms av vad den ekonomiska makten vill och tror på. Teknologi har ingen inbyggd vilja, vilket gör att AI-frågan handlar mer om ”vem” än ”vad”.
AI-skeptiker älskar att fultolka Nobelpristagarens tvivel om AI, men det är uppenbart att Acemoğlu ändrat uppfattning i ämnet. I en intervju med TT säger sig Acemoğlu se tydliga tecken på att företag vill använda AI för att ersätta människor: ”Jag är mer orolig i dag än för två år sedan. Mängden resurser som koncentrerat sig i händerna på de största och mäktigaste företagen bara ökar och ökar.”
Hans slutsats i förra veckans krönika i New York Times var att AI kan ”bidra stort när vi ska navigera utmaningar som åldrande och globalisering”.
Acemoğlus oro för maktkoncentration är befogad. Geoffrey Hinton jobbade för Google fram till pensionen, och Demis Hassabis Deepmind köptes upp av sökjätten för tio år sedan. OpenAI kontrolleras av Microsoft, de implementerar alltmer självmedvetna AI:n på våra arbetsplatser, hem och skolor under namnet ”Copilot”.
Samtidigt höjs svenska röster – ”AI är blott en fluga!” Kungl. Vetenskapsakademien, forskningen och empirin har helt enkelt fel. Nationalekonomen Carl Johan von Seth skriver i Dagens Nyheter att alla AI-pengar slängs i sjön. I en understreckare i Svenska Dagbladet kommer essäisten Tobias Sundin till samma slutsats med rubriken ”Alltmer tyder på att AI riskerar kollapsa”.
von Seth och Sundin gör några för samtiden typiska misstag. Termerna ”AI” och ”generativ AI” blandas hejvilt, som vore de samma sak. AI:n som ger felaktiga recept på pizza likställs med de som upptäcker cancer. Dessutom bygger båda texterna på ohederlig, akademisk cherrypicking. Forskningen i stort och det arbete skribenterna refererar till säger inte sällan motsatsen till deras slutsatser.
Men det största problemet är fixeringen vid produktiviteten. Det är precis som när internet kom till byn – ekonomerna försöker applicera sina gamla vanliga mätstickor på disruptionen. Nu vet vi att internets påverkan inte gick att mäta på traditionella sätt. Det förändrade allt, på gott och ont. Mycket pekar på att AI kommer göra detsamma.
Glatt redovisar de att ”en robot kan ersätta fyra anställda”
Allt oinsatt prat om vad vi vill med AI avleder också från en viktigare fråga: vad vill den artificiella intelligensen med oss? Svar: AI vill ha vårt digitala blod. Googles podcast- och journalist-AI lyssnar på Alex och Sigges podcast och läser Mattias Beijmos tjat i tidningen. För att sedan ersätta oss. Instagram samlar in din data på helt sjuka sätt för att ge dig nya, virtuella AI-vänner som postar AI-skit i ditt flöde. Syftet är att skapa engagemang, men AI-assisterad vilseledning ökar också den AI-genererade desinformationen online.
Offline är det samma sak. Livsmedelsjätten Ica berättar om sin framtid i en nyligen utkommen rapport. Glatt redovisar de att ”en robot kan ersätta fyra anställda”. De övervakar dina köpvanor för att träna AI och robotar, som sedan tränar upp andra robotar. I din Ica-butik. Liksom i förbigående skriver Ica att alla bilder i rapporten skapats med hjälp av AI. Det är uppenbarligen människan – inte AI – som har en backlash.
I Yuval Noah Hararis senaste bok ”Nexus”, varnar han för en ”silikonridå” mellan oss och AI-utvecklingen. Genom att vifta bort, fnysa åt och blunda för, låter vi konversationerna som formar vilka vi är ledas av någon annan/annat. Så låt oss prata om Daron Acemoğlus fråga – ”vem?” Till vem ger vi nycklarna till vår egen framtid? Till vem anförtror vi vårt digitala blod?