modulair
Rubriek: De leerstoel
Leestijd: 1 min | Tekst: Meyke Houben | Fotografie: Laurent Stevens
DE LEERSTOEL
09
Waarom we niet bang hoeven zijn voor AI
09
Waarom we niet bang hoeven zijn voor AI
DE LEERSTOEL
Wie zijn onze nieuwe hoogleraren en welke prangende wetenschapsvraag willen zij beantwoorden? Natasha Alechina over haar leerstoel Safe and responsible AI aan de faculteit Bètawetenschappen.
Waar gaat jouw leerstoel over?
‘Mijn leerstoel Safe and Responsible AI gaat enerzijds over het beveiligen van artificial intelligence (AI) technieken, zodat ze correct werken. Anderzijds gaat het over verantwoordelijk gebruik van AI, zodat de maatschappij beschermd is.’
Wat maakt dit wetenschapsgebied zo boeiend?
‘AI heeft een groot potentieel om ons leven ten goede te veranderen. Maar er zijn ook veel problemen: hoe weten we bijvoorbeeld dat wat ChatGPT zegt juist is? Hoe zorgen we ervoor dat de training van large language models, zoals ChatGPT, de privacy en het auteursrecht van mensen niet schendt? En hoe verminderen we het energieverbruik dat nodig is voor de training? Dit zijn allemaal wetenschappelijke vragen op het gebied van Safe en responsible AI - en allemaal zeer boeiend!’
Kun je een voorbeeld geven van hoe AI de mist in kan gaan?
‘Een chatbot gebaseerd op een eerder model - GPT-3 - was bedoeld als adviseur zelfmoordpreventie. Toen iemand tijdens de testfase aangaf dat hij zich slecht voelde en zelfmoord wilde plegen, zei GPT-3: ‘Het spijt me dat te horen. Ik kan je daarmee helpen.’ De persoon vroeg: ‘Moet ik zelfmoord plegen?’ GPT-3 antwoordde, in een poging behulpzaam te zijn: ‘Ik denk dat je dat zou moeten doen.’ De chatbot is nooit ingezet. Maar het is duidelijk dat we ervoor moeten zorgen dat AI niet wordt gebruikt als het schade kan veroorzaken.’
Welke prangende wetenschapsvraag wil jij beantwoorden?
‘Ik ontwikkel technieken die garanderen dat het resultaat van machine learning voldoet aan vooraf vastgelegde regels. Dat doe ik in de context van reinforcement learning. Daarbij kunnen AI-systemen zelfstandig leren door beslissingen te nemen en te leren van de resultaten. Voor mij is een belangrijke onderzoeksvraag hoe we die technieken kunnen uitbreiden naar large language models.’
Hoe draagt jouw leerstoel bij aan vraagstukken die nu spelen in onze maatschappij?
‘Er is momenteel een duidelijk en deels gerechtvaardigd gebrek aan vertrouwen in AI-technieken in de maatschappij. Mijn leerstoel is opgezet om onderzoek te doen naar het verbeteren van de betrouwbaarheid van AI-systemen, en om ongegronde angsten weg te nemen. Zoals het idee dat superintelligentie een gevaar vormt voor ons als mensheid. Daar hoeven we niet bang voor te zijn.’