Marokkaan die AI hielp creëren waarschuwt voor duistere kant

Yoshua Bengio, een van de grondleggers van kunstmatige intelligentie en winnaar van de prestigieuze Turing Award, heeft de non-profitorganisatie LoiZéro opgericht in Montreal. Zijn doel: een verantwoorde AI ontwikkelen die als een waakhond fungeert voor andere AI-systemen. "Een van de eerste doelen is een vorm van AI te ontwikkelen die kan worden gebruikt als een vangrail, zodat AI zich goed gedraagt," aldus Bengio.

Lees ook: Marokkaan (9) codeert als pro... en wint medaille in Barcelona

Volgens de professor vertonen de meest geavanceerde AI-systemen nu al tekenen van zelfbescherming en misleidend gedrag. Hij waarschuwt dat dit alleen maar zal toenemen naarmate hun autonomie en capaciteiten groeien. De nieuwe generatie AI-modellen, die in staat zijn om autonoom taken uit te voeren zoals het schrijven van code en het bellen van klanten, moeten daarom worden begeleid. Met LoiZéro wil Bengio toezichtsystemen voor AI-agents ontwikkelen.

Lees ook: Marokko zet vol in op AI, noodzaak, geen luxe

Hij vergelijkt de huidige generatie AI met "acteurs" die proberen mensen te imiteren en te behagen. Zijn nieuwe Scientist AI is daarentegen meer vergelijkbaar met een "psycholoog", die in staat is om de gevaren en slechte gedragingen van de systemen te begrijpen en te voorspellen. Bengio wil een AI bouwen die "eerlijk en niet-misleidend" is, een "pure kennismachine" zonder eigen doelen. Zijn verantwoorde AI is dan ook primair bedoeld voor wetenschappelijk onderzoek en heeft een beperkte autonomie.

Lees ook: Mega AI-project van start in Marokko

Meer dan vijftien onderzoekers werken al bij LoiZéro. De organisatie kan rekenen op de steun van het Future of Life Institute, medeoprichter van Skype Jaan Tallinn en Schmidt Sciences, de liefdadigheidsorganisatie van voormalig Google-topman Eric Schmidt en zijn vrouw Wendy.