Under tisdagen förhördes Sam Altman av den amerikanska kongressen om AI. Sam Altman är vd på företaget Open AI, som ligger bakom ChatGPT. Trots att han är chef på företaget som levererar en av världens populäraste chatbottar är hans budskap tydligt: han kräver att man nu måste börja reglera artificiell intelligens.
– Min största skräck är att AI-industrin åsamkar världen stor skada, säger Sam Altman enligt New York Times.
Det har bara gått några veckor sedan ”AI:s gudfader” Geoffrey Hinton gick ut och varnade världen för AI med orden: ”farorna är läskiga, jag ångrar mig”. Nu sitter alltså en av artificiell intelligens (AI) främsta företrädare i förhör i den amerikanska kongressen och säger i princip samma sak:
– När tekniken utvecklas förstår vi att människor är oroliga över hur den kommer att förändra vårt sätt att leva. Det är vi också, säger Altman i förhöret med kongressen.
Han var kallad till förhör för att berätta för kongressen om vilka risker han ser med AI, men mest av allt fick han frågor om sitt företags ChatGPT, som i dag kan föra ett samtal på ett tilltalande och vettigt sätt genom att ta in information från enorma textmängder från internet.
Här förekommer redan nu en diskussion världen över vad detta kan ha för betydelse, inte minst vad gäller undervisning i skolan, upphovsrättsfrågor, kunskapsbaserad information till myndigheter och andra.
– Vi bedömer att myndighetsregleringar kommer att bli nödvändiga för att minska riskerna. Om det går fel med den här tekniken så kommer det att gå rejält snett. Och det ska vi vara ärliga om, säger Altman i förhöret.
Han anser dock samtidigt att fördelarna med de verktyg företaget har skapat ”klart överväger riskerna hittills”. Men påpekar hur viktigt det blivit för hans företag att göra så mycket som möjligt för att hålla koll på säkerheten i detta. Han föreslår att det skapas en internationell kommitté eller organisation som ska utfärda licenser för de mest kraftfulla AI-systemen.
