Týchto 23 vecí má zabrániť umelej inteligencii, aby zničila ľudstvo
Technologický pokrok napreduje míľovými krokmi a najmä v posledných rokoch sa začala neuveriteľne vzmáhať aj umelá inteligencia, ktorá už dávno nie je len hračkou pre nadšencov, či zlosynom v sci-fi filmoch. Najväčšie mozgy ľudstva sa zamysleli, ako robotom v budúcnosti znemožniť, aby spôsobili skazu ľudstva.
Dokáže byť umelá inteligencia niekedy v budúcnosti tak inteligentná, aby ohrozila celé ľudstvo? Už teraz dokáže fungovať na základe natoľko zložitých algoritmov, že porazí ľudí v šachu, v hre go a dokonca aj v pokri.
Čoraz väčšou témou je otázka, koľko pracovných miest v budúcnosti zanikne jednoducho preto, že ich budú vedieť vykonávať stroje. Obavy však vzbudzuje aj to, že sa na umelú inteligenciu čoraz viac spoliehame vo vojenskej oblasti.
Kým má ľudstvo ešte stále „navrch,“ najvýznamnejší experti na umelú inteligenciu a technologickí vizionári sa zamysleli, ako zabrániť strojom aby sa v budúcnosti vzbúrili a pokorili ľudí. Spísali manifest pozostávajúci z 23 bodov.
Princípy umelej inteligencie
1. Cieľom výskumu by nemalo byť vytvoriť akúsi neorientovanú inteligenciu, ale inteligenciu zameranú na prospech ľudstva.
2. Investície do výskumu by mali sledovať prospešné ciele, ale predtým sa musia zodpovedať aj komplikované otázky z oblasti počítačových vied, ekonómie, práva, etiky a spoločenských vied. Najzásadnejšie otázky znejú:
- Ako urobiť umelú inteligenciu dostatočne odolnou proti hackerským útokom?
- Ako môže rásť prosperita ľudstva automatizáciou zároveň s tým, že sa zachovajú súčasné zdroje?
- Ako by sme mali aktualizovať systémy práva, aby držali krok s úrovňou vývoja umelej inteligencie?
- Aký komplex hodnôt by mali vyznávať inteligentné systémy?
3. Výskumníci a politici by mali konštruktívne komunikovať.
4. Medzi výskumníkmi a vývojármi by mala panovať dôvera a kultúrna spolupráca.
5. Výskumné tímy by mali aktívne spolupracovať tak, aby sa to negatívne neprejavilo na kvalite, ktorá by mohla narobiť problémy s bezpečnosťou.
6. Umelá inteligencia musí byť bezpečná počas celého obdobia vývoja a aj počas celej svojej životnosti.
7. Ak sa inteligentné roboty poškodia, musí byť možné dohľadať príčiny.
8. Autonómne umelé systémy sa môžu v budúcnosti zapojiť do súdneho rozhodovania, ale mali by byť kontrolované živou ľudskou autoritou.
9. Vývojári majú za svoje dielo aj morálnu zodpovednosť.
10. Autonómne systémy by mali byť navrhnuté tak, aby sa ich správanie po celú dobu existencie zhodovalo s ľudskými hodnotami.
11. Kompatibilita sa týka aj ľudských ideálov slobody, dôstojnosti, práva a kultúrnej rozmanitosti.
12. Sila umelej inteligencie je veľká, a preto by si ľudia mali ponechať prístup k riadeniu a ku kontrole informácií, ktoré odovzdávajú autonómnym systémom.
13. Sloboda ľudí nesmie byť neprimerane obmedzená prístupom robotov k osobným dátam.
14. Úžitok z prelomových technológií by malo mať čo najviac ľudí.
15. Ekonomický blahobyt plynúci z používania inteligentných strojov by malo využívať celé ľudstvo.
16. O delegovaní rozhodovacích právomocí na stroje rozhodnú ľudia.
17. Inteligentné systémy nie sú vytvorené na vyvolávanie spoločenských nepokojov.
18. Veľké varovanie súvisí s armádnym použitím umelej inteligencie. Ľudstvo sa musí vyhnúť pretekom v zbrojení s autonómnymi zbraňami.
19. Ľudskí stvoritelia by sa nemali obmedzovať predpokladanou hornou hranicou možností budúcej superinteligencie.
20. Vysoko rozvinutá umelá inteligencia bude zásadným prelomom v histórii ľudstva, a preto jej plánovanie by malo prebiehať ruka v ruke so zodpovednosťou.
21. Ako už z predchádzajúcich tvrdení vyplýva, experti predpokladajú, že s vývojom umelej inteligencie sú spojené aj veľké riziká. O rizikách by sme mali rozmýšľať dopredu a byť pripravení vložiť maximálne úsilie do zmiernenia negatívnych dopadov.
22. Autonómne systémy sa zrejme budú vedieť sami upraviť a replikovať. Hoci sa takto zvýši kvalita používania strojov, stále musí podliehať prísnym bezpečnostným a kontrolným opatreniam.
23. Superinteligencia by mala slúžiť celému ľudstvu, a nielen jednému štátu alebo organizácii.
Podpisy Muska aj Hawkinga
Princípy sa snažia poradiť si s mierou kontroly a rozvoja tak, aby ľudstvo z umelej inteligencie profitovalo, ale aby sa zároveň nenarušila krehká rovnováha v spoločnosti.
Pod výzvou sa ocitli podpisy ľudí z projektu DeepMind, Googlu, IBM, Inštitútu Alana Turninga a špičkových univerzít. Zo známych mien svoj podpis pripojil fyzik Stephen Hawking alebo vizionár zo SpaceX Elon Musk.