Ikertzailek metrika batzuk diseinatu dituzte adimen artifizialeko ereduak entrenatzeko erabiltzen diren datu multzoetako alborapen demografikoak kuantifikatzeko. Halako alborapenik egonez gero, adimen artifizialeko sistemetan gutxi edo gaizki ordezkatuta egoten dira talde demografiko jakin batzuk; adibidez, emakumeak, 70 urtetik gorako pertsonak eta pertsona beltzak. Horren ondorioz, baliteke halako datuekin trebatutako adimen artifizialeko sistemek gaizki jokatzea, eta populazio talde jakin batzuk diskriminazioz tratatzea. Ikerlana “IEEE Transactions on Pattern Analysis and Machine Intelligence” aldizkarian argitaratu da (IEEE TPAMI), zeina adimen artifizialaren arloko erreferentea baita mundu osoan.

“Egiaztatu dugu, esate baterako, curriculumak iragazteko sistema batzuek sistematikoki baztertzen zituztela, gure eredu matxistari jarraikiz, emakumeenak ziruditen curriculumak. Eta adimen artifizial generatiboaren kasuan, ChatGPT sistemarenean adibidez, ohartu gara generoa zenbait lanbiderekin lotzen duela, eta arraza- talde batzuk, berriz, ezaugarri negatibo batzuekin”, dio Iris Domínguez-Catenak, hots, Daniel Paternáin Dallo eta Mikel Galar Idoate ARIN ikerketa-talde sortu berriko kideekin batera artikulua idatzi duen ikertzaileak (Artificial Intelligence and Machine Learning Research ikerketa-taldea).

Argazki batean oinarrituta aurpegiera ezagutzea

Artikuluaren ikergaia aurpegiko adierazpenen ezagutza automatikoa da (ingelesez, “Facial Expression Recognition”), hau da, pertsona baten argazkian oinarrituz sistemak automatikoki asmatzen du nolako emozioa adierazten duen aurpegi batek; oinarrizko emozio hauetako bat alegia: zoriona, tristura, beldurra, nazka, haserrea, harridura eta adierazpen neutroa. Problema horrek aplikazio garrantzitsuak ditu medikuntzan (haurtxoen min-seinaleak detektatzeko), laguntzeko robotikan (adinekoei laguntzeko, batez ere) eta ikus-entzunezkoen sorkuntzan. Zehazki, teknologia hori erabili dute Emotional Films proiektu estrategikoan, non eginkizun erabakigarria izan baitute NUPeko ikertzaile batzuek eta argitaratu berri den ikerlana egin dutenek. 

Artikuluan (“Metrics for Dataset Demographic Bias: A Case Study on Facial Expression Recognition” du izena), ikertzaileek aztertutako hogei datu multzo baino gehiagoren emaitza eman dute aditzera, besteak beste aurpegierak ezagutzeko adimen artifizialeko sistemak entrenatzeko gaur egun gehien erabiltzen diren datuena. Datu multzoak Internetetik atera ohi dituzte kontrol zehatzik egin gabe. “Egiaztatu dugu datu multzoetan orekatua egon ohi dela gizonen eta emakumeen presentzia; ez, ordea, adin tarte eta arraza guztiena -esan du Iris Domínguezek-. Izan ere, 20 eta 30 urte bitarteko pertsona zurien datuak askoz gehiago dira beste talde batzuetakoenak baino, eta, horren ondorioz, litekeena da adimen artifizialeko ereduek 70 urtetik gorakoak eta emakume arrazializatuak diskriminatzea, besteak beste”. Halako partzialtasunei ordezkaritza-alborapen deitzen zaie. 

Adimen artifizialeko sistemek, gainera, badituzte beste alborapen batzuk. “Beste gauza bat ere egiaztatu dugu: datu multzo askotako emakume zoriontsuen kopurua gizonezkoena halako bi da ia-ia; haserre ageri diren emakumeen kopurua, aldiz, gizonezkoenaren erdia -esan du ikertzaileak-. Horrek sistemari pentsarazten ahal dio pertsona batek zoriona edo haserrea adierazten duela segun eta itxura femeninoagoa edo maskulinoagoa duen. Alborapen estereotipiko deitzen zaie halakoei”.

Artikuluaren idazleek 17 metrika aztertu dituzte alborapen mota guztiak kuantifikatzeko, eta, sakon ikertu ondoren, datu multzo batean dauden alborapenak kuantitatiboki neurtzeko eta interpretatzeko egokienak zein diren proposatu dute. “Problema horietako asko gizartean ditugun alborapenen ondorio zuzenak dira, eta gure ohiko diskriminazio ereduak errepikatzea edo areagotzea ekar dezakete. Adimen artifizialeko azkeneko eredura alborapenak transferitzea eragozteko eta haien eragina txikitzeko, lehenik eta behin kuantifikatu egin behar da alborapen maila”, adierazi du azkenik Iris Domínguezek.