Onderzoekers van de Mohamed bin Zayed Universiteit tonen aan dat kunstmatige intelligentie grote moeite heeft met Arabische culturele nuances. Modellen maken opvallende fouten bij het interpreteren van Marokkaans erfgoed, wat wijst op een gebrek aan diversiteit tijdens de ontwikkeling.
Een team van de MBZUAI in Abu Dhabi testte diverse gratis AI-modellen, waaronder vijf systemen die specifiek voor de Arabische taal zijn geoptimaliseerd. De resultaten leggen een onvermogen bloot om regionale bijzonderheden te herkennen. Promovendus Karima Kadaoui wijst op een voorbeeld van een vrouw met een traditioneel hoofddeksel uit Noord-Marokko, dat door systemen onterecht werd aangezien voor een Mexicaanse sombrero.
De verwarring strekt zich ook uit tot de gastronomie en taal. Een Omaans dessert werd door een van de geteste systemen foutief geïdentificeerd als een Marokkaanse bastilla. Op taalkundig vlak mengen de instrumenten verschillende dialecten door elkaar. Een antwoord kan beginnen in het Marokkaans-Arabisch, Egyptische woorden bevatten en eindigen in het klassiek literair Arabisch.
De krant The National meldt dat deze tekortkomingen ontstaan doordat systemen beelden analyseren op basis van statistische waarschijnlijkheid in plaats van menselijke waarneming. Hierdoor wordt een kameel soms verward met een struisvogel of een lama. De oorzaak ligt bij de annotatie van data, die vaak wordt uitgevoerd door mensen zonder de nodige culturele achtergrondkennis van de Arabische wereld.
De studie, uitgevoerd in samenwerking met Toloka AI, werd in maart gepresenteerd tijdens een wetenschappelijke conferentie in Marokko. De onderzoekers hopen dat hun bevindingen ontwikkelaars aanzetten tot het maken van meer inclusieve hulpmiddelen. Het doel is om systemen te bouwen die minder vooroordelen vertonen en over een rijkere variëteit aan gegevens beschikken.
Kadaoui benadrukt dat er actie nodig is om deze hiaten in de technologie aan te pakken. "We moeten vechten voor inclusie, erom vragen en werk blijven doen dat de tekortkomingen en vooroordelen blootlegt," aldus de onderzoekster over de noodzaak van meer diverse data-integratie.
Bladna.nl volgen
Mis geen enkel nieuws over Marokko en Marokkanen in Nederland.
De Marokkaanse prinsessen Lalla Khadija, Lalla Meryem en Lalla Hasnaa hebben woensdagavond samen met Brigitte Macron het nieuwe Grand Théâtre de Rabat geopend. Het gebouw...
Chinese onderzoekers hebben met het model ’Habibi’ een nieuwe standaard gezet in de wereld van kunstmatige intelligentie. Dit opensource-model is in staat om meer dan 20...
De Marokkaanse veiligheidsdienst (DGSN) zet kunstmatige intelligentie in om de criminaliteit effectiever te bestrijden. Dit werd bekendgemaakt tijdens de open dagen van de DGSN...
Marokko verandert zijn status van louter importeur naar een toekomstig knooppunt voor de productie van militaire drones in Afrika. Het koninkrijk versnelt zijn defensiestrategie...
Steeds meer Marokkaanse callcenters zetten in op kunstmatige intelligentie om efficiënter en productiever te worden. Vakbonden maken zich zorgen over de mogelijke gevolgen voor...