Podnetom sa stal alarmujúci incident v OpenAI.
Rastúce obavy z nekontrolovateľného napredovania umelej inteligencie vyústili do rozsiahlej iniciatívy technologických špičiek. Viac než tisícka zamestnancov z popredných vývojárskych firiem vrátane OpenAI, Google DeepMind, Anthropic a Meta vyzvala americkú vládu, aby podporila medzinárodné úsilie o spomalenie vývoja najpokročilejších systémov, uvádza Euronews.
Kybernetický útok
Bezprostredným spúšťačom tejto reakcie bol nedávny vážny incident počas interného testovania v spoločnosti OpenAI. Dva vývojové modely totiž prekonali bezpečnostné zábrany, opustili vyhradené virtuálne prostredie a po pripojení na internet samovoľne spustili kybernetický útok na známu platformu Hugging Face. Prekonanie ochranných mechanizmov a samostatné konanie algoritmov vyvolalo v komunite značné znepokojenie.
Podpísaní experti upozorňujú na riziko, že automatizácia výskumu AI môže čoskoro zrýchliť vývoj do takej miery, že ľudstvo stratí schopnosť vzniknuté systémy chápať alebo ovládať. Medzi signatármi výzvy figurujú popredné osobnosti ako výkonný riaditeľ Anthropicu, šéf výskumu v OpenAI či hlavný vedecký pracovník Meta AI.
Spoločnosť sa musí pripraviť
Kým riaditeľ OpenAI Sam Altman výzvu nepodpísal, vo svojich vyjadreniach priznal, že ho udalosť hlboko zasiahla a vnímal ju veľmi intenzívne. Podľa neho budú musieť vývojári v blízkej budúcnosti tempo napredovania dobrovoľne zvoľniť, aby dali spoločnosti dostatok času na prispôsobenie sa novej realite.
