AI-teknikens gudfar hoppar av: ”Ångrar mitt livsverk”
Publicerad 2023-05-03
Geoffrey Hinton brukar kallas AI-teknikens gudfader.
Utan honom hade inte dagens textrobotar funnits. Men nu hoppar han av:
– En del av mig ångrar mitt livsverk, säger Hinton.
När över 1000 AI-forskare och techledare i ett öppet brev nyligen krävde sex månaders stopp för utvecklingen av textrobotar som ChatGPT var Geoffrey Hinton, 75, inte en av undertecknarna.
I måndags slutade han på Googles AI-laboratorium i kanadensiska Toronto för att offentligt kunna kritisera tekniken:
– Jag tycker inte att företagen ska utveckla det här mer förrän de vet om de kan kontrollera tekniken, säger Geoffrey Hinton till tidningen The New York Times.
För ett decennium sedan betalade sökgiganten Google 44 miljoner dollar, omkring 280 miljoner kronor, för företaget som Hinton startat med två studenter.
Företaget byggde på teknologin som Hinton och hans studenter skapade 2012, och som gjorde det möjligt för datorer att identifiera objekt i fotografier, till exempel blommor och bilar. Med hjälp av självlärande algoritmer som försöker efterlikna vad som händer i människans hjärna – ett neuronnät – tränades datorer att känna igen mönster.
”Kanske bättre än det som pågår i våra hjärnor”
Hintons nya teknik gjorde att OpenAI – som anställde en av Hintons studenter – kunde skapa textroboten ChatGPT medan Google, som anställde Hinton, kunde utveckla Bard. Han oroas av den explosiva utvecklingen av textrobotarna:
– Det som pågår inne i de här systemen kanske är mycket bättre än det som pågår inne i våra hjärnor, säger han och konstaterar att språkhanteringen inom OpenAIs och Googles textrobotar blivit otroligt mycket bättre det senaste året:
– Titta på hur det såg ut för fem år sedan och hur det ser ut nu. Notera den skillnaden och fundera på vad som kan hända framåt. Det känns läskigt.
I närtid är han oroad för att internet ska översvämmas av falska, AI-genererade foton, filmer och texter, som gör att allmänheten inte vet vad som är på riktigt längre.
På 1980-talet var Geoffrey Hinton professor i datorvetenskap på ett amerikanskt universitet som fick bidrag från Pentagon, USA:s försvarsdepartement.
Oroad över framtida användning av ”robotsoldater”
Då flyttade han till Kanada, eftersom han inte ville bidra till USA:s framtida användning av ”robotsoldater” på slagfältet.
Han är fortfarande rädd att AI-soldater kan bli ett hot mot mänskligheten, om AI-systemen blir smartare än människan. Och det kan hända snabbare än väntat:
– De flesta trodde att den dagen var långt borta. Jag trodde maskinerna skulle bli smartare än människan om 30 eller 50 år, eller ännu mer. Det tror jag inte längre, säger Hinton till The New York Times.
Han menar att hans gamla arbetsgivare Google agerat försiktigt fram tills nyligen. Men när OpenAI och Microsoft (via Bing) släppte sina kraftigt förbättrade textrobotar nyligen tvingades Google öka takten. En global kapplöpning har inletts som kan bli omöjlig att stoppa, eftersom ingen kan stoppa företagen. Även om begränsande globala regler införs kan ingen kontrollera om AI-teknologin utvecklas i tysthet, menar han:
– Det är svårt att se hur man ska kunna hindra farliga aktörer från att använda tekniken i dåliga syften, säger Geoffrey Hinton.