Umelá inteligencia má predsudky a podceňuje ženy. Má to od nás
Keď si firma Amazon uvedomila, že jej program na vyhľadávanie nových zamestnancov vybavený umelou inteligenciou dáva prednosť mužom, urýchlene ho prestala používať. V roku 2016 sa chatovací robot z dielne Microsoftu zmenil počas 24 hodín na sexom posadnutý, neonacistický stroj.
Zdravotné sestričky a vedci
Tieto incidenty, spoločne s ďalšími, hrajú do karát tým, ktorí tvrdia, že v našom každodennom živote je príliš mnoho AI. Vidí to tak Charles Cuvelliez, ktorý prednáša na Bruselskej slobodnej univerzite a je riaditeľom Bruselskej inžinierskej školy. Článok vyšiel v novinách Les Échos.
Niektorí vedci sa na to dívajú z inej perspektívy. Pokiaľ robí AI takéto chyby, je to preto, lebo ju to naučili. To znamená, že ju môžeme naučiť aj to, aby sa takýmto chybám vyhla. Ako? Tým, že nájdeme všetky predsudky obsiahnuté v údajoch, ktoré AI dostáva v procese učenia.
Tieto údaje plynú z našich vlastných predsudkov, ktoré existujú už veľmi dlhý čas. Je ľahké ich nájsť. Skúsme sa zamyslieť, ako často sa v textoch vyskytujú ošetrovateľky a zdravotné sestry v porovnaní s ich mužskými kolegami. Ako často sa o lekároch hovorí ako o mužoch? Ľahko uhádnete, že o počítačových vedcoch sa tiež bude oveľa častejšie hovoriť v mužskom rode.
Najväčšia slabina umelej inteligencie
To však nie je všetko. Vedeli ste napríklad, že pomer chýb pri rozpoznávaní tváre dosahuje až 35 percent u žien tmavej pleti, zatiaľ čo pri mužoch s bielou pleťou je to len 0,8 percenta?
To všetko je spôsobené objemom vstupných dát, ktoré sú k dispozícii na "učenie" AI algoritmov. Práve dostupné dáta sú najväčšou slabinou umelej inteligencie. Napríklad sociálne siete poskytujú hojný a lacný zdroj dát. Avšak, kvôli prítomnosti falošných správ, nenávistných výlevov a všeobecne zaujatých postojov voči menšinám a ženám, nie sú pre AI vhodné.
Experiment, ktorý na twitteri zrealizoval jeden z výskumníkov zo Swinburneskej univerzity, odhalil, že ľudia vyjadrujú negatívne pocity podstatne častejšie proti ženám vo vysokých pozíciách, než proti porovnateľne vysokopostaveným mužom. Predsudky sa však nájdu aj na iných miestach. Napadlo vám niekedy, prečo majú všetky hlasové služby, ktoré využívajú robotické služby, upokojujúce ženské hlasy?
Obľúbené ženské hlasy
Štúdie ukázali, že muži aj ženy dávajú prednosť tomu, aby sa im prihovárali ženské hlasy. Dodávajú im viac istoty, hrajú na materskú strunu. Tieto preferencie však majú aj svoje výnimky. Mužské hlasy počujeme radšej, keď potrebujeme poradiť v technických otázkach. Ženské hlasy vedú vo všetkých medziľudských záležitostiach.
Pred určitým časom výrobcovia inteligentných automatizovaných osobných asistentov s pripojenými reproduktormi upravili algoritmy tak, aby boli roboti menej zhovievaví voči hrubým a urážlivým výpadom užívateľov, ktorí si na nich vybíjajú svoju frustráciu - vybíjanie frustrácie totiž často pokračovalo aj voči skutočným ľuďom.
Umelá inteligencia ako taká nemá rovnaké predsudky ako my. To my učíme stroje, aby boli neobjektívne, ovplyvnené, predpojaté. Svetové ekonomické fórum odhaduje, že potrvá do budúceho storočia, kým dosiahneme skutočnú rovnosť pohlaví. A je možné, že v prípade umelej inteligencie budeme na rovnosť pohlaví čakať ešte dlhšie.
