Han kallas ”Gudfadern” för artificiell intelligens (AI).
Möt den numera 75-årige doktor Geoffrey Hinton. Som samband med sin avgång från Google, där han arbetade, berättar i långa intervjuer i New York Times och för BBC om AI och dess framtid.
Han är minst sagt orolig – och säger att han ångrar mycket av sitt arbete.
– Farorna är läskiga, säger han till BBC.
Det där låter ju som en ren domedagsprofetia. Och vad annat ska man konstatera? Efter att ha slutat sitt jobb på Google har han varnat för de växande farorna med utvecklingen kring AI. När Geoffrey Hinton, 75, tillkännagav sin avgång från Google gjorde han ett uttalande till New York Times där han säger att han nu ångrar sitt arbete.
Han säger vidare till BBC att några av farorna med AI-chatbotar är ”ganska läskiga”.
– Just nu är de inte intelligentare än oss, så vitt jag kan säga. Men jag tror att de snart kan vara det, säger han till BBC.
Dr Hinton berättar att det är hans ålder som spelat in i hans beslut att lämna teknikjätten Google, och säger:
– Jag är 75, så det är dags att gå i pension.”
Dr Hintons banbrytande forskning om neurala nätverk och djupinlärning har banat väg för nuvarande AI-system, så som ChatGPT. Inom artificiell intelligens är neurala nätverk system som liknar den mänskliga hjärnan i sättet de lär sig och bearbetar information. De gör det möjligt för AI:er att lära av erfarenhet, som en person skulle göra. Detta kallas djupinlärning.
Den brittisk-kanadensiske kognitiva psykologen och datavetaren Hinton berättar för BBC att chatbots snart kan passera den informationsnivå som en mänsklig hjärna har.
– Just nu: vad vi ser är saker som GPT-4 förmörkar en person i den mängd allmän kunskap den har och det överskuggar dem på långa vägar. När det gäller resonemang är AI inte lika bra, men kan redan föra ett enkelt resonemang”, säger han.
– Och med tanke på hastigheten på framstegen förväntar vi oss att saker och ting kommer att utvecklas ganska snabbt. Så vi måste oroa oss för det.
• Är världen förberedd för den kommande AI-stormen?
I artikeln i New York Times hänvisar doktor Hinton till ”dåliga skådespelare” som skulle försöka använda AI för ”dåliga saker”.
BBC:s reporter ber honom utveckla detta och han svarar:
– Detta är bara ett slags värsta scenario, ett slags mardrömsscenario. Du kan till exempel föreställa dig att någon ”dålig skådespelare”, låt säga Putin bestämde sig för att ge robotar möjligheten att skapa sina egna delmål.
– Forskaren varnar för att detta så småningom kan ”skapa delmål som ”Jag behöver få mer kraft'”.
Han tillägger:
– Jag har kommit till slutsatsen att den typ av intelligens vi utvecklar skiljer sig mycket från den intelligens vi har. Vi människor är biologiska system och det här är digitala system. Och den stora skillnaden är att med digitala system har du många kopior av samma uppsättning vikter, samma modell av världen.
– Och alla dessa kopior kan lära sig separat, men dela sina kunskaper direkt. Så det är som om du har 10 000 personer och när en person lär sig något vet alla automatiskt om just det. Och det är så dessa chatbots kan veta så mycket mer än någon enskild person.
Matt Clifford, ordförande för Storbritanniens Advanced Research and Invention Agency, säger till BBC att Dr Hintons tillkännagivande ”understryker den hastighet med vilken AI-kapaciteten accelererar”.
– Det finns en enorm uppsida med den här tekniken, men det är viktigt att världen investerar mycket och brådskande i AI-säkerhet och kontroll”, säger han.
Dr Hinton ansluter sig till ett växande antal experter som uttrycker oro för AI – både hastigheten med vilken den utvecklas och i vilken riktning den tar.
I mars skrevs ett öppet brev – undertecknat av dussintals personer inom AI-området, inklusive teknikmiljardären Elon Musk, att nu måste en paus skapas för all utveckling till mer avancerad än den nuvarande versionen av AI chatbot ChatGPT. Detta för att så att robusta säkerhetsåtgärder som möjligt skulle kunna utformas och genomföras.
Yoshua Bengio, en annan så kallad ”Gudfader” till AI (det finns några stycken som vill ha det epitet), som tillsammans med Dr Hinton och Yann LeCun vann 2018 års Turing Award för sitt arbete med djupinlärning, skrev också under brevet.
Men Dr Hinton säger också följande till BBC:
– På kortare sikt trodde han att AI skulle ge många fler fördelar än risker, så jag tror inte att vi ska sluta utveckla det här.
Han säger också att internationell konkurrens skulle innebära att en paus skulle bli svår.
– Även om alla i USA slutade utveckla det, skulle Kina bara få ett stort försprång”, säger han.
Dr Hinton hävdar att han är expert på vetenskapen, inte politiken, och att det är regeringens ansvar att se till att AI utvecklas ”med mycket tanke på hur man skulle stoppa det att bli en skurk”.
Dr Hinton betonade att han inte ville kritisera Google, nu när han slutat där, och att teknikjätten har varit ”mycket ansvarsfull”.
– Jag vill faktiskt säga några bra saker om Google. Och de blir mer trovärdiga om jag inte jobbar för Google.
I ett uttalande sa Googles chefsforskare Jeff Dean:
– Vi förblir engagerade i ett ansvarsfullt förhållningssätt till AI. Vi lär oss ständigt att förstå nya risker, samtidigt som vi djärvt förnyar oss.”
Det är viktigt att komma ihåg att AI-chatbotar bara är en aspekt av artificiell intelligens, även om de är mest populära just nu.
AI ligger bakom algoritmerna som dikterar vilka videostreamingplattformar som bestämmer vad du ska titta på härnäst. AI kan användas vid rekrytering för att filtrera jobbansökningar, av försäkringsbolag för att beräkna premier. AI kan diagnostisera medicinska tillstånd (även om mänskliga läkare fortfarande får sista ordet).
Vad vi dock ser nu är uppkomsten av AGI – artificiell general intelligens – som kan tränas för att göra ett antal saker inom ett givet uppdrag. Så ett exempel är att ChatGPT bara erbjuder textsvar på en fråga, men möjligheterna inom detta beskrivs som oändliga.
Så, takten i AI-accelerationen har överraskat till och med dess skapare. AI har utvecklats dramatiskt sedan Dr Hinton byggde ett banbrytande bildanalysnätverk redan 2012.
Till och med Googles chef Sundar Pichai sa i en intervju nyligen att inte ens han helt förstod allt som dess AI-chatbot, Bard, gjorde.
Som avslutning konstateras av Hinton:
– Gör inga misstag, vi sitter på ett snabbtåg just nu, och oron är att AI en dag ska börja bygga sina egna spår.
