Expert na umelú inteligenciu: Prístup ku generatívnym nástrojom má už každý. Vytvoriť deepfake dokáže aj laik (rozhovor)
Umelá inteligencia (UI) sa stáva jedným z najväčších technologických pokrokov súčasnej doby. Tak ako ponúka šíru škálu využitia pre odborníkov, s jej veľkým potenciálom však prichádzajú aj obavy ohľadom možného zneužitia. Viac o rizikách sme sa rozprávali s odborníkom na umelú inteligenciu z FEI STU Ivanom Sekajom.
Hrozbu predstavujú aj deepfakes. Podvod spočíva vo vytvorení vysoko realistických audio alebo audiovizuálnych produktov, ktoré sa snažia napodobniť niekoho výzor, alebo hlas. Sú známe prípady kedy útočníci použili deepfake obsah na vydieranie a následné získanie finančnej sumy od obete.
V rozhovore sa dozviete:
- Čo pojem deepfake znamená,
- ako vieme rozlíšiť fake od skutočnosti,
- ako bojovať proti zneužívaniu,
- ako zmierniť riziká spojené s deepfakes,
- akú úlohu zohrávajú sociálne siete pri podvodného obsahu,
- ako rýchlo sa rozvíjajú UI technológie,
- ako môže bežný človek prispieť k regulácii,
- v čom je internet 21. storočia pre deti atraktívnejší.
Môžete vysvetliť čo pojem "deepfake" znamená a aké má na internete využitie?
Deepfake využíva prostriedky umelej inteligencie, konkrétne strojové učenie a umelé neurónové siete, ktoré sú dnes mainstreamovým prístupom v UI na vytváranie klamlivého obsahu.
"Deep" pochádza z "Deep Neural Networks" a "Deep Learning" – hlboké neurónové siete, ich učenie a "fake" je preto, lebo sú použité na zneužitie pre rôzne účely. Umelé neurónové siete (UNS) sú softvérové (ale dnes už aj hardvérové) simulácie sietí biologických neurónov. Neuróny tvoria základnú stavebnú jednotku živých mozgov.
Hlboké sú preto, lebo neuróny v UNS sú organizované do vrstiev, ktoré si posúvajú informácie, podobne ako v živých mozgoch. Tých vrstiev je veľa (desiatky, stovky, tisíce), a preto sa im hovorí hlboké.
V hlbokých sieťach môžu byť tisíce až miliardy neurónov, podľa aplikácie. Takéto siete sa, podobne ako človek alebo pes, dokážu naučiť (za použitia veľkého množstva dát: fotografií, videí, textov atď. alebo interakciou s prostredím) rozpoznávať prostredie, rozhodovať sa a konať, čiže - inteligentne sa správať.
Aké využitie má umelá inteligencia a aké riziká predstavujú deepfake technológie?
Podľa toho, čo ich naučíme. Takéto "umelé mozgy" napríklad môžu určovať diagnózy na RTG, CT alebo MR snímkach pacientov alebo odpovedajú na otázky ľudí na internete vo forme chatbotov, generujú fotografie, videá alebo riadia autonómne autá.
V prípade deepfake sa jedná o použitie uvedených metód UI na vytváranie realisticky pôsobiaceho obsahu (fotografie, video, hlas) zavádzajúceho, klamlivého alebo kompromitujúceho charakteru alebo vytváranie sexuálne explicitných scén. Typickým príkladom je výmena tváre osoby na fotografii alebo zmena obsahu hlasového prejavu.
Polícia upozornila na prípad, kedy sexuálny predátor, použil UI na tvorbu deepfake obsahu ako vydierania. Dá sa v tomto prípade rozlíšiť, kedy ide o fake a kedy nie?
To závisí hlavne od toho, kto je ako zorientovaný v predmetnej oblasti, prípadne aj ako je celkovo vzdelaný.
Problém začína v tom, že dnešné spôsoby zneužívania a samotná úroveň nástrojov UI začínajú byť tak výkonné a tak hodnoverné, že rozlíšiť pravdu od manipulácie môže byť ťažké.
Ktoré skupiny ľudí majú prístup k softvéru na generovanie deepfakes a aké dôsledky to môže mať pre bežných používateľov?
Softvér pre generovanie fake výstupov začína byť prístupný každému bežnému používateľovi počítača, nemusí to už byť profesionál v odbore a ich produkty sa s vysokou uveriteľnosťou podobajú realite. Rozlíšiť to býva čoraz ťažšie, hoci zatiaľ to nie je nemožné. Používajú sa na to podobné nástroje.
Tie sú ale obyčajne krok pozadu, ako to býva pri vymyslení novej zbrane a následne protizbrane. Ale pre bežného človeka na internete alebo diváka to bude čoraz väčší problém.
Najspoľahlivejší spôsob, ako rozlíšiť pravdu a manipuláciu je byť zorientovaný, vedieť, čo možno od ktorej osoby očakávať, byť opatrný a nedôverovať hneď každému zdroju informácií. Hlavne, keď niekto povie niečo atypické, nečakané alebo veľmi emotívne.