Washington — Alarm slaan over kunstmatige intelligentie is een populair tijdverdrijf geworden in het ChatGPT-tijdperk, overgenomen door spraakmakende figuren zo divers als industrieel Elon Musk, linkse intellectueel Noam Chomsky en de 99-jarige gepensioneerde staatsman Henry Kissinger.
Maar het zijn de interne zorgen van de AI-onderzoeksgemeenschap die bijzondere aandacht krijgen. Geoffrey Hinton, een baanbrekend onderzoeker en de zogenaamde ‘peetvader van AI’, heeft zijn functie bij Google verlaten zodat hij vrijer kan spreken over de gevaren van de technologie die hij heeft helpen creëren.
Tijdens zijn decennialange carrière heeft Hintons pionierswerk op het gebied van deep learning en neurale netwerken de basis gelegd voor veel van de AI-technologie die we tegenwoordig zien.
Er is de afgelopen maanden een golf van AI-introducties geweest. De in San Francisco gevestigde startup OpenAI, het door Microsoft gesteunde bedrijf achter ChatGPT, heeft in maart zijn nieuwste kunstmatige-intelligentiemodel, GPT-4, uitgerold. Andere techreuzen hebben geïnvesteerd in concurrerende tools, waaronder Google’s ‘Bird’.
Hinton vertelde de BBC dat sommige gevaren van AI-chatbots “behoorlijk eng” waren. ‘Op dit moment zijn ze niet slimmer dan wij, voor zover ik weet. Maar ik denk dat ze dat binnenkort wel zullen doen.”
In een interview met MIT Technology Review wees Hinton ook op “slechte actoren” die AI zouden kunnen gebruiken op manieren die schadelijke gevolgen kunnen hebben voor de samenleving, zoals het manipuleren van verkiezingen of het aanzetten tot geweld.
Hinton, 75, zei dat hij met pensioen ging bij Google, zodat hij openlijk kon spreken over mogelijke risico’s terwijl hij niet langer voor de technologiegigant werkte.
“Ik wil het hebben over AI-beveiligingsproblemen zonder na te denken over de interactie met de activiteiten van Google”, vertelde hij aan MIT Technology Review. “Zolang ik betaald word door Google, kan ik dat niet doen.”
Sinds de aankondiging van zijn vertrek heeft Hinton volgehouden dat Google “zeer verantwoordelijk heeft gehandeld” met betrekking tot AI. Hij vertelde MIT Technology Review dat er “veel goede dingen aan Google” zijn waarover hij wil praten – maar die opmerkingen “zouden veel geloofwaardiger zijn als ik niet meer bij Google was.”
Google bevestigde dat Hinton met pensioen is gegaan na 10 jaar toezicht te hebben gehouden op het Google Research-team in Toronto.
Hinton weigerde dinsdag verder commentaar, maar zei dat hij er woensdag tijdens een conferentie meer over zou vertellen.
Het belangrijkste gevaar dat centraal staat in het debat over de staat van AI is toekomst noch heden. Enerzijds is er de hypothetische situatie van existentiële risico’s die ontstaan doordat computers de menselijke intelligentie teniet doen. Aan de andere kant zijn er zorgen over geautomatiseerde technologieën die al op grote schaal worden toegepast door bedrijven en overheden en in de echte wereld schade kunnen aanrichten.
“Goed of niet, wat het chatbot-moment heeft gedaan, is AI veranderen in een nationale conversatie en een internationale conversatie waar niet alleen AI-experts en ontwikkelaars bij betrokken zijn”, zegt Alondra Nelson, die tot februari het Witte Huis Office of Science and Technology leidde Beleid en de drang om richtlijnen te creëren rond het verantwoord gebruik van AI-tools.
“AI is niet langer abstract, en we hebben zo’n opening, denk ik, om een nieuw gesprek te voeren over hoe we een democratische toekomst en een niet-uitbuitende toekomst met technologie willen zien”, zei Nelson vorige maand in een interview. .
Veel AI-onderzoekers hebben lang hun bezorgdheid geuit over raciale, gender- en andere soorten vooroordelen in AI-systemen, waaronder grote op tekst gebaseerde taalmodellen die zijn getraind op enorme hoeveelheden menselijk schrift en bestaande ongelijkheden in de samenleving kunnen versterken.
“We moeten een stap terug doen en echt nadenken over wiens behoeften centraal staan in risicodiscussies”, zegt Sarah Myers West, algemeen directeur van het non-profit AI Now Institute. “De verliezen die tegenwoordig door AI-systemen worden uitgevoerd, zijn niet echt gelijkmatig verdeeld. Dit verergert de bestaande patronen van ongelijkheid aanzienlijk.”
Hinton was een van de drie AI-pioniers die in 2019 de Turingprijs wonnen, een eer die bekend staat als de versie van de Nobelprijs in de technische industrie. Twee andere winnaars, Yoshua Bengio en Ian Lekun, spraken ook hun bezorgdheid uit over de toekomst van AI.
Professor Bengio van de Universiteit van Montreal ondertekende eind maart een petitie waarin technologiebedrijven werden opgeroepen om in te stemmen met een onderbreking van zes maanden in de ontwikkeling van robuuste AI-systemen, terwijl LeCun, de beste AI-wetenschapper bij het moederbedrijf van Facebook, een andere aannam. Optimistische benadering.
_______
AP Technology-verslaggever Matt O’Brien doet verslag vanuit Cambridge, Massachusetts.