Artikel 10 november 2021

Is ai zegen of vloek voor maatschappij?

TBX 2021

Computers zijn abstracte apparaten, hebben geen mening en geven resultaten waarin geen vooroordelen liggen besloten. Daar denkt Sennay Ghebreab, universitair hoofddocent Sociaal-Intelligente AI aan de Universiteit van Amsterdam, anders over.

Met de acceptatie van ai in de gangbare informatiesystemen zitten steeds vaker vooroordelen ingebakken. Soms bewust, soms door onwetendheid bij de ontwikkelaars. Sennay Ghebreab doet onderzoek naar de voorspel- en beslisregels van algoritmen en ziet mogelijkheden om ai-technologie in de basis neutraal te maken. Pas dan zijn volgens hem slimme toepassingen te ontwikkelen die gelijke kansen vergroten op het gebied van onderwijs, welzijn, milieu, mobiliteit en gezondheid.  

Naast zijn werk aan de UvA besteedt Ghebreab sinds december 2020 ook tijd aan het leidinggeven aan het Civic AI Lab. Dit onderzoeksinstituut, opgezet door de UvA en de gemeente Amsterdam, legt zich toe op het maken van ai-modellen met specifieke aandacht voor een niet-discriminerende en gelijke behandeling. Uit studies blijkt dat de focus nu te veel is gericht op de technische invulling van ai, waarbij weinig aandacht voor fundamentele mensenrechten. De uitkomsten van ai-systemen vallen soms negatief uit voor minderheden in de samenleving, zeker als het gaat om systemen van gemeenten en andere overheden.

Lees het volledige artikel op computable.nl

Ook interessant