Žiadne halucinácie, ale hlúposti. Filozofi chcú uviesť veci na pravú mieru o tom, ako si umelá inteligencia vymýšľa
Umelá inteligencia nehalucinuje, vymýšľa si hlúposti, uvádza nová filozofická štúdia zo Škótska. Správu priniesol portál Futurism.com.
Štúdiu trojice filozofov z Glasgowskej univerzity začiatkom júna zverejnil odborný žurnál Ethics and Information Technology.
Filozofi sa v nej venovali nezmyslom vytvoreným nástrojom ChatGPT, ktoré v niektorých prípadoch dostali metaforickú nálepku "halucinácia".
Nemôže mať halucinácie
Nezmysly vytvorené umelou inteligenciou by sa však podľa filozofov nemali označovať metaforicky, ale pravým menom – hovadina (anglicky "bullshit").
Trvajú na tom, že AI nemôže halucinovať, pretože halucinácia je prelud založený na klame zmyslov, teda niečoho, čo umelá inteligencia ako softvér nemá.
"Stroje sa nesnažia odovzdať informáciu o niečom, čomu veria alebo čo vnímajú. Nepresnosti nevznikajú z dôvodu nesprávnej interpretácie alebo halucinácie. Ako sme (v štúdii) uviedli, vôbec sa nesnažia odovzdať nejakú informáciu. Vymýšľajú si hovadiny," uvádza štúdia.
Filozofi vychádzajú z koncepcie Harryho Frankfurta, ktorý hovadinu definoval vo svojom epistemologickom diele "On Bullshit" (O hovadinách) z roku 2005 ako "ľubovoľný výrok, pri ktorom autorovi nezáleží na výroku samotnom ani na jeho pravdivosti".
Zámerné a nezámerné hovadiny
Frankfurt hovadiny rozdeľuje ešte na dva poddruhy – "zámerné hovadiny" vytvorené s nejakým postranným úmyslom a "nezámerné hovadiny" vytvorené bez postranného úmyslu.
Autori štúdie tvrdia, že ChatGPT vytvára prinajlepšom nezámerné hlúposti, pretože sa nesnaží zavádzať používateľov, ale vytvoriť prirodzene znejúci text.
Chutné kamene aj liečba skokom z mosta
Závery štúdie sú zaujímavé najmä v súvislosti s informáciami o absurdných a nebezpečných radách umelej inteligencie spoločnosti Google, ktoré sa objavili počas uplynulých týždňov.
Tá radila používateľom, aby jedli kamene, ochutili si pizzu netoxickým lepidlom alebo aby depresiu liečili skokom z mosta.
Spoločnosť Google a jej umelá inteligencia sa na sociálnych sieťach stala terčom mohutnej vlny posmechu a kritiky.
Spoločnosť však kritizované výstupy podľa televízie BBC označila za ojedinelé zlyhania a trvá na tom, že drvivá väčšina výstupov jej AI je kvalitná.
