Expert na umelú inteligenciu: Prístup ku generatívnym nástrojom má už každý. Vytvoriť deepfake dokáže aj laik (rozhovor)
Umelá inteligencia (UI) sa stáva jedným z najväčších technologických pokrokov súčasnej doby. Tak ako ponúka šíru škálu využitia pre odborníkov, s jej veľkým potenciálom však prichádzajú aj obavy ohľadom možného zneužitia. Viac o rizikách sme sa rozprávali s odborníkom na umelú inteligenciu z FEI STU Ivanom Sekajom.
V zahraničí vytvorili aplikáciu, ktorá vie z fotografie, na ktorej je osoba oblečená, vyzliecť človeka donaha. Dotyčný nemusí ani vedieť, kedy bola fotografia vytvorená, nájde ju často náhodne na internete. Ako bojovať proti takýmto aplikáciám?
Áno, erotika a pornografia sú veľmi frekventované témy manipulácií. Ale nie len tie. Dnes tieto nástroje vedia jednoducho vymeniť tváre na statickej fotografii. To už dokáže priemerne informaticky zdatný laik. Dokážu tiež zmeniť tvár na dynamickom videu aj zmeniť obsah prejavu človeka, napríklad politika alebo inej známej osoby, čo je už ťažšie, ale čoskoro to tiež nebude problém.
Často k tomu stačí jedna priemerne dobrá fotografia obete, ktorá sa má stať cieľom takejto manipulácie.
Dá sa tomu predísť?
Predchádzať alebo zabrániť tomuto bude ťažké až nemožné. Vyfotografovať si vás môže ktokoľvek. Prípadne, väčšina ľudí zverejňuje svoje fotografie vo virtuálnom prostredí.
Bojovať treba legislatívou, reguláciami a sankciami. V Británii idú napríklad uzákoniť tresty za vytváranie sexuálne explicitných deepfake.
Najlepším právnym postupom, ktorý radia odborníci a načrtli ste to v podstate aj vy, je podať trestné oznámenie a sociálnu sieť požiadať o stiahnutie obrázku. Nastali však prípady, kedy sociálna sieť nereagovala a fotografie či videá sa šírili ďalej. Môžu odborníci na umelú inteligenciu zabrániť zneužívaniu?
Odborníci na UI robia v tomto smere dve veci. Jednak vyvíjajú rôzne nástroje generatívnej UI, ktoré môžu byť, žiaľ, okrem iného aj zneužité. A potom vytvárajú metódy a nástroje, ktoré dokážu identifikovať zneužitie UI.
Bojovať proti zneužívaniu UI na akékoľvek účely budú musieť hlavne zodpovedné autority, čiže štáty, EÚ a podobne. Zatiaľ nie sme na to až tak dobre pripravení, ale to sa bude musieť zlepšovať. Napríklad EÚ tomu prikladá veľkú dôležitosť.
Existujú nejaké technologické riešenia na odhaľovanie a boj proti šíreniu sexuálneho obsahu? Ako zmierniť riziká spojené s deepfakes?
Veľa užitočnej práce robia aj ľudia, a mnohé firmy, ktoré obsah na sieti kontrolujú. Ale ich sily zatiaľ nestačia. Porušovateľov je oveľa viac, než kapacít na kontrolu.
Ako môžu spoločnosti zabezpečiť to, aby sa ich nástroje umelej inteligencie nepoužívali na škodlivé účely?
Spoločnosti, ktoré vyvíjajú rôzne veľmi užitočné nástroje UI, bez ktorých by sme sa už dnes ani nezaobišli sú najviac kompetentné, aby minimalizovali možnosti ich zneužitia. A regulačné orgány to od nich budú musieť vyžadovať. Ale tieto možnosti sú limitované. Svoju úlohu bude musieť plniť hlavne nová legislatíva, regulácie a sankcie.
Treba si uvedomiť, že pomocou efektívnej manipulácie informácií a tým aj verejnej mienky môže dôjsť k veľkým škodám.
Akú úlohu zohrávajú sociálne siete pri šírení nepravdivého sexuálneho obsahu?
Sexuálny obsah a falošná pornografia je častá a veľmi problematická téma. Veľmi citlivá je hlavne u mladých ľudí, ktorým môže znepríjemniť život, ale aj ohroziť ich zdravý duševný vývoj.
Nie je to však jediná téma na sociálnych sieťach, tie pôvodne neboli pripravené na takéto nekalé aktivity a dezinformácie. Okrem ich všetkých výhod a funkcionality, bez ktorých si mnohí už ani nevedia predstaviť život, sú tu spomínané negatíva.
Jedným z dôsledkov existencie a činnosti sociálnych sietí je vytváranie názorových skupín, izolácia od názorovej a informačnej pestrosti a tým, žiaľ, aj nepriamo podpora určitého napätia a polarizácie spoločnosti. Je to živná pôda pre tých, ktorých cieľom je ovplyvňovanie názorov, šírenie dezinformácií, nenávisti a manipulácia verejnej mienky.
Práve preto sa objavujú rastúce tlaky autorít, aby sa zaviedla účinnejšia kontrola a regulácia aj vo vnútri sociálnych sietí. Tie týmto snahám obyčajne rozumejú, ale riešenia nie sú jednoduché a sú drahé, keďže nechcú prísť o klientov, vďaka ktorým majú veľké zisky, snažia sa to riešiť.
Aký je potenciálny vývoj v oblasti deepfake technológií, na čo by si mali ľudia dávať pozor?
Všetky technológie UI, nie len generatívna UI sa budú zlepšovať a to čoraz rýchlejšie. A s nimi aj deepfake. Lebo ľudia zostanú rovnakí. Slušní budú UI používať pre dobro ľudstva a zlí budú požívať také technológie, aké budú dostupné pre svoje zištné ciele. Tak to bolo aj v minulosti s inými technológiami.
Potenciál UI je v tomto oveľa silnejší. Inteligencia stroja sa približuje inteligencii človeka. Každý tvorca UI by mal myslieť zodpovedne s ohľadom na to, ako a na čo jeho produkt budú využívať ľudia.