AI-expert Yoshua Bengio waarschuwt voor robots met een eigen wil
De wereldwijd gerespecteerde AI-deskundige Yoshua Bengio uit zijn ernstige zorgen over de huidige koers van technologische ontwikkelingen. Volgens de wetenschapper met...
1 september 2025 - 18:50 - Marokko
Een toponderzoeker van Marokkaanse afkomst heeft een opvallende stap gezet in de wereld van kunstmatige intelligentie. Hij werkt aan een revolutionaire oplossing om de gevaren van AI tegen te gaan.
Yoshua Bengio, een van de grondleggers van kunstmatige intelligentie en winnaar van de prestigieuze Turing Award, heeft de non-profitorganisatie LoiZéro opgericht in Montreal. Zijn doel: een verantwoorde AI ontwikkelen die als een waakhond fungeert voor andere AI-systemen. "Een van de eerste doelen is een vorm van AI te ontwikkelen die kan worden gebruikt als een vangrail, zodat AI zich goed gedraagt," aldus Bengio.
Lees ook: Marokkaan (9) codeert als pro... en wint medaille in Barcelona
Volgens de professor vertonen de meest geavanceerde AI-systemen nu al tekenen van zelfbescherming en misleidend gedrag. Hij waarschuwt dat dit alleen maar zal toenemen naarmate hun autonomie en capaciteiten groeien. De nieuwe generatie AI-modellen, die in staat zijn om autonoom taken uit te voeren zoals het schrijven van code en het bellen van klanten, moeten daarom worden begeleid. Met LoiZéro wil Bengio toezichtsystemen voor AI-agents ontwikkelen.
Lees ook: Marokko zet vol in op AI, noodzaak, geen luxe
Hij vergelijkt de huidige generatie AI met "acteurs" die proberen mensen te imiteren en te behagen. Zijn nieuwe Scientist AI is daarentegen meer vergelijkbaar met een "psycholoog", die in staat is om de gevaren en slechte gedragingen van de systemen te begrijpen en te voorspellen. Bengio wil een AI bouwen die "eerlijk en niet-misleidend" is, een "pure kennismachine" zonder eigen doelen. Zijn verantwoorde AI is dan ook primair bedoeld voor wetenschappelijk onderzoek en heeft een beperkte autonomie.
Lees ook: Mega AI-project van start in Marokko
Meer dan vijftien onderzoekers werken al bij LoiZéro. De organisatie kan rekenen op de steun van het Future of Life Institute, medeoprichter van Skype Jaan Tallinn en Schmidt Sciences, de liefdadigheidsorganisatie van voormalig Google-topman Eric Schmidt en zijn vrouw Wendy.
Lees meer
De wereldwijd gerespecteerde AI-deskundige Yoshua Bengio uit zijn ernstige zorgen over de huidige koers van technologische ontwikkelingen. Volgens de wetenschapper met...
De militaire samenwerking tussen Marokko en Turkije ondergaat een significante transformatie. Volgens Haluk Görgün, de president van het Turkse Agentschap voor de...
De Marokkaanse overheid richt zich op het vereenvoudigen van het leven voor Marokkanen in het buitenland. Minister van Buitenlandse Zaken Nasser Bourita heeft verschillende...
In het Marokkaanse parlement zijn er zorgen geuit over de populaire online game Roblox. Parlementsleden hebben schriftelijke vragen gesteld aan de regering over de risico’s die...
De callcentersector in Marokko, een belangrijke werkgever voor duizenden jongeren, staat voor een grote uitdaging. Een golf van ontslagen en personeelsreducties lijkt...
