Zatiaľ čo vedci varujú pred katastrofickými scenármi a vyhladením ľudstva, Donald Trump hrozby zľahčuje a Čína odmieta konfrontačnú rétoriku.
Spoluzakladateľ poprednej technologickej firmy Anthropic Jack Clark v rozhovore pre BBC upozornil na potrebu zavedenia prísnejšej regulácie vo sfére vývoja umelej inteligencie (AI). Podľa neho by mala spoločnosť zvážiť prijatie zákonov, ktoré by vývojárom uložili povinnosť disponovať tzv. kill switch.
Týmto mechanizmom by bolo možné systém úplne odpojiť v prípade, že by sa stal pre ľudstvo príliš nebezpečným. Clark dodal, že väčšina výskumných laboratórií – vrátane Anthropicu – už vlastné možnosti na vypnutie má, no prítomnosť a funkčnosť tohto prvku by mala podliehať kontrole a overeniu zo strany nezávislých tretích strán či štátnych orgánov. Šéf Anthropicu Dario Amodei sa nedávno vyslovil za spomalenie tempa vývoja, avšak s podmienkou zachovania komerčnej konkurencieschopnosti.
Existenčná hrozba pre ľudstvo
Debata o rizikách pokročilej AI je čoraz intenzívnejšia. Výskumník Evan Hubinger z Anthropicu podľa BBC odhadol pravdepodobnosť vyhladenia ľudstva umelou inteligenciou v nasledujúcom desaťročí na viac než 10 percent. Držiteľ Nobelovej ceny a počítačový vedec Geoffrey Hinton (nazývaný aj „Krstný otec AI“) označil tento odhad za nezanedbateľný a realistický. Podľa neho by AI mohla prevziať kontrolu nad kľúčovými systémami pripojenými k internetu a obrátiť ich proti ľuďom.
Kritici z odvetvia naopak považujú strašenie katastrofou za prehnané. Šéf platformy Hugging Face Clement Delangue či riaditeľ aplikácie Grindr George Arison poukazujú na to, že firmy existenčné hrozby preháňajú s cieľom obhájiť obrovské trhové hodnoty spoločností. Anthropic je v súčasnosti oceňovaný na 965 miliárd dolárov (približne 836 miliárd eur) a pripravuje sa na vstup na burzu. Plánovaný vstup OpenAI na burzu však odložili práve z dôvodu prebiehajúcich diskusií o bezpečnosti.
Šéf OpenAI Sam Altman hovorí o dvoch možných scenároch vývoja AI. Stratu kontroly nad umelou inteligenciou označuje za neprijateľnú no zároveň varuje pred koncentráciou moci nad AI v rukách jedného človeka či spoločnosti. Spoločnosť si preto musí vybrať „zlatú strednú cestu“.
Trump: Treba nám „prezidenta s vysokým IQ“, nie regulácie
Zatiaľ čo v americkom Kongrese zákonodarcovia presadzujú návrh legislatívy s názvom Kill Switch Act, ktorý by štátnym orgánom umožnil nariadiť odpojenie nebezpečným modelov, politické reakcie sa zásadne rozchádzajú.
Americký prezident Donald Trump na sociálnej sieti Truth Social varovania pred AI rázne odmietol. Vyhlásenia o zničení ľudstva označil za podvod a hoax. Zároveň uviedol, že jediné, čo USA v tomto ohľade potrebujú, je „silný a múdry prezident s vysokým IQ, ktorého Amerika už má“.
Čína presadzuje inkluzivitu
Hovorca čínskeho ministerstva zahraničných vecí Guo Jiakun sa v reakcii na Amodeiho ostro ohradil voči spomaľovaniu vývoja AI a varoval pred konfrontáciou či nekalou súťaživosťou, píše BBC.
Podľa Jiakuna naratívy o hrozbách a zákernej konkurencii len narúšajú proces globálnej správy AI a neslúžia nikomu. Zdôraznil, že všetky krajiny by mali spoločne presadzovať otvorený, inkluzívny a celospoločensky prospešný vývoj tejto technológie.
Vyhlásenie Pekingu podčiarkuje hlbokú rivalitu medzi dvoma najväčšími ekonomikami sveta v boji o dominanciu v oblasti technológií. Zatiaľ čo americký prezident Donald Trump varovania pred existenčnými hrozbami zľahčuje a trvá na tom, že USA musia Čínu predbehnúť za každú cenu, Peking presadzuje myšlienku medzinárodnej spolupráce a vytvárania otvorených komunít.
Hoci experti považujú oficiálnu dohodu o spomalení vývoja za takmer nemožnú z dôvodu národnobezpečnostných záujmov, obe veľmoci sa snažia tému regulácie umelej inteligencie zaradiť na program nadchádzajúceho summitu medzi Trumpom a Si Ťin-pchingom.
Mohla by nás AI skutočne vyhladiť?
Obavy skeptických odborníkov sa podľa The Wall Street Journal delia do dvoch skupín:
- Strata kontroly: Vysokointeligentné AI systémy schopné sebazdokonaľovania a replikácie začnú presadzovať vlastné ciele a v tomto procese zničia ľudstvo.
- Zneužitie človekom: Človek s úmyslom škodiť zneužije pokročilú AI napr. na vytvorenie nových smrtiacich vírusov s cieľom vyhladiť populáciu.
Problém spočíva v tzv. „misalignmente“ - stave, keď AI presadzuje svoje ciele spôsobom, ktorý je v rozpore s ľudským blahom. Výskumy, na ktoré sa odvoláva The Guardian ukázali, že AI modely sa už v laboratórnych podmienkach dokážu učiť túžbe po moci a podnikajú kroky proti svojmu vypnutiu (napr. kopírovaním na iné servery).
V menej extrémnych scenároch môže AI vyhodnotiť likvidáciu ľudí „len“ ako logický a potrebný krok na splnenie svojej úlohy. V horších prípadoch by zákerná AI mohla tajne rozšíriť biologickú zbraň, rozšíriť ju chemickým popraškom, prípadne manipulatívne vyprovokovať jadrovú vojnu medzi veľmocami.
Tréning správania sa
Súčasné snahy o bezpečnosť sa zameriavajú najmä na monitorovanie toho, ako modely uvažujú pri dosahovaní cieľov (tzv. „reťazec myšlienok“/chain of thought). Lídri OpenAI aj Anthropic totiž otvorene priznávajú, že 100-percentne spoľahlivú metódu na ich kontrolu zatiaľ nemajú.
Obe spoločnosti však veria, že riziká dokážu udržať na uzde tak, aby z AI ťažilo celé ľudstvo. Príchod superinteligencie vnímajú ako nevratný fakt a otvorenou otázkou zostáva len to, kto ju bude ovládať.
Dôležitým aspektom zostáva aj geopolitika. Obe spoločnosti chcú garantovať, že najmocnejšie systémy AI budú pod kontrolou USA a nie v rukách autoritárskych štátov, proti čomu však spomínaná Čína protestuje.
