17 °C, Budapest
17 °C
Budapest
Holnap
Holnapután
13°
Vasárnap
18°
2019.04.18. csütörtök, Andrea
filter.hu filter.hu

Az önvezető autók nagyobb valószínűséggel ütik el a sötétbőrűeket

Sokan kritizálták az év elején Alexandria Ocasio-Cortez szenátort, mert azt állította, hogy az algoritmusok előítéletesek. „Az algoritmusokat még mindig emberek írják, és azok még mindig alapfeltételekhez rögzülnek. Ezek automatikus feltételek. Ha nem változtatunk az előítéleteken, akkor automatizáljuk azokat” mondta egy évente megrendezett rangos afroamerikai polgárjogi aktivista eseményen.

Természetesen igaza van. Rengeteg hasonló példát lehet hozni olyan számítástechnikai-elektronikai eszközök köréből, amelyekkel nap mint nap találkozunk: ismeretes a csak a fehér bőrszínt azonosító arcfelismerő berendezés, az ázsiai fényképalanyt a pislogás befejezésére utasító fényképezőgép és a rasszista folyékonyszappan-adagoló, ami nem működik, ha nem fehér bőrű az alátartott kéz.

Chukwuemeka Afigbo azt ajánlja a twitteren, hogy aki eddig nem tudta felfogni, mennyire fontos a sokféleség elfogadása a számítástechnika területén, és hogyan hat ez a társadalomra – az nézze meg a fenti videót.

 

Különösen aggasztó, ha ez az attitűd a folyékonyszappan-adagolón és a mobiltelefonon túl is érvényesül. Új problémába ütközünk: úgy néz ki, hogy az önvezető autók is rasszisták.

Nemrég jelent meg a Georgia Institute of Technology egyetem kutatóinak tanulmánya arról, hogy az önvezető autók nagyobb valószínűséggel ütik el a sötétbőrű embert. A folyékonyszappan-adagolókhoz hasonlóan az önvezető autókban levő rendszerek is kevésbé képesek azonosítani a sötétebb bőrszínt.

Az Arxiv elektronikus tanulmánytárban olvasható anyag írására az motiválta a szerzőket, hogy „sok friss példa van arra, hogy a gépi tanulás és a gépi látásrendszerek bizonyos demográfiai csoportok esetében hajlamosabbak a tévedésre.” Rámutatnak, hogy „vannak már olyan önvezető rendszerek az utakon, amelyek nem képesek teljes mértékben kiküszöbölni a gyalogos elütésének kockázatát”, márpedig a gyalogos felismerése kulcsfontosságú a halálos gázolás elkerülése szempontjából.

A kutatók sorozatokat állítottak össze különböző bőrszínű gyalogosok fényképeiből (a bőrszíneket a Fitzpatrick-skála szerint sorolták osztályokba) mindenféle fényviszonyok között. Nyolc arcfelismerő rendszeren tesztelték a képeket, majd elemezték, milyen gyakran azonosították helyesen a gépi tanuló rendszerek a különböző bőrszínű emberek jelenlétét. Előítéletet találtak a rendszereken belül, ami azt jelenti, hogy az önvezető autó kisebb valószínűséggel venné észre a sötétebb bőrszínű embert: ha „látja”, nem állna meg, hanem elütné. Azt mutatták ki, hogy átlagosan 5%-kal kevésbé pontosan azonosították a rendszerek a sötétebb bőrű embert. Ez minden napszakban és mindenféle látási viszonyok között igaz volt.

A tanulmánynak vannak korlátai: nem az autógyártók, hanem tudományos kutatók absztrakt modelljein alapszik, de arra alkalmas, hogy ráirányítsa az elektronikai cégek figyelmét az ismétlődő problémára, amit könnyen meg lehetne oldani, ha az új termékeket alaposan, széles és kellően változatos „emberanyagon” tesztelnék.

Az algoritmusok nemcsak a bőrszín miatt diszkriminálnak. A hangfelismerő rendszerek nehezebben azonosítják a női hangot, mint a férfiét; a nők akkor is 47%-kal nagyobb valószínűséggel szenvednek sérülést, ha be vannak csatolva, mert a biztonsági öveket legtöbbnyire a férfitestre tervezik.

A szerzők végkövetkeztetése: „Reméljük, hogy a tanulmányunk meggyőző bizonyítékát adja a meglévő problémának, ami akkor állhat elő a valóságban, ha az előítéletes észlelésnek erre a forrására nem gondolva helyeznek működésbe ilyesfajta felismerő rendszereket.”

Szorítsunk, hogy a Tesla és a Google több, különböző bőrszínű emberek külsejét leíró adatot tápláljon be a gépi tanuló algoritmusaikba, mint a tudományos kutatói modellek adatai, mert különben hamarosan szembe kell néznünk azzal a helyzettel, hogy a mesterséges intelligencia képes arra, hogy öljön, és ezt nagyobb valószínűséggel teszi, ha sötét a bőröd.

Forrás: iflscience.com

Tech
Tudomány
Tech
Tudomány
Tech
Tudomány
Tech
Tudomány
További anyagok