A mobiltelefonok, webes szolgáltatások vagy az okosotthonok egyes eszközeinek működése és fejlődése egyre több esetben a mesterséges intelligencián alapul, ám kiderült, hogy a fejlesztés során nem érvényesül eléggé a nemi és a faji diverzitás, legalábbis ezt olvashatjuk egy kutatás eredményeként.
A tanulmányban "sokszínűségi krízis"-ként emlegetett jelenségre példaként szerepel, hogy a mesterséges intelligencia fejlesztésében résztvevő emberek 80 százaléka férfi, míg a hölgyek a Facebooknál tizenöt, a Google-nél tíz százalékban vesznek részt ebben a munkában. A színesbőrűek szintén perifériára szorulnak, ami azt jelenti, hogy a nagyobb tech cégek személyzetének csupán töredékét alkotják. Azt láthatjuk tehát, hogy a munka jelentős részét fehér férfiak irányítják, ami a nézőpontok meghatározásánál és érvényesítésénél is ennek megfelelő súlyt képviselnek, ami leginkább azért probléma, mert így nem érvényesül az emberi sokféleség a programozás folyamatában.
Magyarul arról van szó, hogy egy mesterséges intelligencia hiába gondolkozik valamilyen szinten önállóan, a gondolkodási algoritmusait, az alapvető tudását, az ehhez felhasznált alapadatokat az "őt" megalkotó emberektől kapja, és ilyenkor valamilyen szinten mindig érvényesül az az alapelv, hogy a programozók nézőpontja, véleménye, világképe is átszivárog ezeken az adatokon. Ha pedig egy gépagyat javarészt fehér férfiak programoznak, akkor esélyesen olyan tudáskészlettel, reakciókkal és egyéb információkkal startol el, ami a fehér férfiakra jellemző.
A kutatók szerint az is gondot jelent, hogy magára az iparágra sem jellemző a sokszínűség, és szerintük éppen ezért lenne célszerű a cégeknek valamivel transzparensebben kezelni a faji és nemi jellegű hátrányos megkülönböztetések miatt kifizetett kártérítéseket, illetve jelentéseket. Azt sem szabad elfelejteni, hogy pont nemrégiben derült ki például az Amazon arcfelismerő rendszeréről, hogy előszeretettel téved a nők és a nem fehérek kárára, ami sokakban a múlt igazságtalanságait hozhatja vissza.
Persze mindez még mindig valamelyest a jövő problémája, hiszen manapság inkább az jellemző, hogy a nyilvánosság felé nyitott, öntanuló mesterséges intelligenciák gyorsan képesek akár teljesen elfelejteni az alapvető tudásukat és értékítéletüket, miután kapcsolatba kerülnek a világ humánjaival. Emlékezetes például a Microsoft chatbotjának néhány évvel ezelőtti esete: a cég szabadjára engedett egy alapvetően kislány személyiségjegyekkel ellátott csevegő chatrobotot, amely valódi beszélgetőpartnereinek viselkedéséből, szóhasználatából, reakcióiból fejlesztgette volna magát emberibbé. A trollok és nettó bunkók miatt azonban a bájos kislány hamarosan szado-mazo nácivá változott, és a fejlesztőknek viszonylag gyorsan le kellett kapcsolni, mielőtt nagyobb botrány kerekedett volna a robot nem épp frappáns válaszaiból és beszólásaiból.
