Expert na umelú inteligenciu: Prístup ku generatívnym nástrojom má už každý. Vytvoriť deepfake dokáže aj laik (rozhovor)
Umelá inteligencia (UI) sa stáva jedným z najväčších technologických pokrokov súčasnej doby. Tak ako ponúka šíru škálu využitia pre odborníkov, s jej veľkým potenciálom však prichádzajú aj obavy ohľadom možného zneužitia. Viac o rizikách sme sa rozprávali s odborníkom na umelú inteligenciu z FEI STU Ivanom Sekajom.
Ako môže bežný človek prispieť k regulácii deepfake?
Najlepšie, čo každý jednotlivec môže spraviť sám pre seba alebo pre svoje deti je vzdelávanie a záujem o dianie. A to celý život. Zorientovaný a vzdelaný človek je ťažšie manipulovateľný.
Je dobré neveriť automaticky všetkému, hlavne prekvapivým a nečakaným informáciám. Vedieť, ktoré zdroje sú dôveryhodné. A keď si náhodou nie sme na sto percent istí, radšej nešírme neoverené informácie po svete ďalej.
Používatelia, ktorí vytvárajú videá s umelou inteligenciou, by mali informovať o tom, že obsah je zmanipulovaný a upravený. Príkladom sú satirické videá slovenských politikov, ktoré boli označené a zmanipulované. Prezident Peter Pellegrini dokonca zvažuje právne kroky voči účtu, ktorý tvorí videá pomocou umelej inteligencie. V jednom z videí prezident vyzýva ku gamblingu a hazardu. Tvorca videí však hovorí, že ide len o zábavu. Obhajuje sa tým, že vo videu jasne označil, že ide o fake. Čo si o tom myslíte?
Áno, podľa mňa treba proti nelegálnym aktivitám s použitím UI nekompromisne bojovať. Legislatíva musí na to reagovať. Inak nastane informatický chaos, nikto nebude vedieť, kde je pravda.
Každý, kto používa UI na zverejňovanie akéhokoľvek diela, článku, videa by mal uviesť, ktorý nástroj UI použil, za akým účelom a kde. Inak sa dopúšťa porušenia autorského práva, vedeckej či akademickej integrity a podobne.
V prípade zábavy, filmu či satiry technológia deepfake býva využívaná, ale malo by vždy byť jasne priznaná.
Najviac nebezpečné je ale použitie deepfake, keď cielene určitej verejne známej osobe (politikovi, štátnikovi, vedcovi) vkladáme do úst myšlienky, ktoré nikdy nevyslovil.
Aj v nedávnej minulosti môžeme nájsť k tomu viacero príkladov s menšími aj veľmi veľkými dôsledkami.
Celú reportáž o deepfake o prezidentovi Petrovi Pellegrinim si môžete pozrieť nižšie.
V zahraničí, konkrétne v Británii, riešia prípad znásilnenia vo virtuálnej realite. Nová generácia detí strávi nielen vo virtuálnej realite, ale celkovo za počítačom denne viac ako tri hodiny. Prečo deti chodia menej von, ale zostávajú radšej doma? V čom je internet v 21. storočí atraktívnejší, ako kedysi?
Predpokladám, že dnešné technológie aj UI sú pre mládež veľmi atraktívne a zaujímavé. Vytvoria virtuálny sociálny priestor a virtuálny svet, ktorý je niekedy ešte príťažlivejší, než realita. Toto v minulosti nebolo.
Nie všetko z toho je negatívne, ale negatíva tu sú. Okrem toho UI spôsobuje jedno veľké riziko. Stroje riešia za človeka čoraz viac problémov a čoraz viac aj kognitívneho charakteru. To znamená, že človek a hlavne mladý človek dnes potrebuje čoraz menej rozmýšľať, tvoriť a riešiť problémy, na ktorých by sa mal učiť. Preto jeho intelekt začína stagnovať, ak nie degradovať.
Ako tomu zabrániť, čo by ste odporučili?
Moje posolstvo v tomto smere je, aby sme našej vyrastajúcej mladej generácii obmedzovali používanie UI aj inej elektroniky aspoň vtedy, keď ide o rozvoj ich kognitívnych schopností aj o rozvoj ich duševného a fyzického zdravia. To neznamená úplne im obmedziť používanie všetkých vymožeností nových technológií. Ale rozumná regulácia jednak zo strany rodiny aj zo strany štátu tu na mieste je.
