Vysoký komisár OSN pre ľudské práva Volker Türk vyhlásil, že pokročilá umelá inteligencia by mohla predstavovať existenčné riziko pre ľudstvo, pričom skritizoval nečinnosť štátov pri zavádzaní prísnych pravidiel pre technologických gigantov.
Na zasadnutí Rady OSN pre ľudské práva v Ženeve odzneli varovné slová týkajúce sa smerovania vývoja umelej inteligencie. Vysoký komisár Volker Türk zdôraznil, že plne zdieľa obavy technologických expertov, podľa ktorých môže pokročilá AI v budúcnosti ohroziť samotnú existenciu ľudstva. Ostrej kritike podrobil pomalý postup štátov pri prijímaní legislatívy a spýtal sa, kde sú konkrétne činy.
Z nečinnosti podľa neho profitujú výhradne nadnárodné technologické firmy a ich vlastníci. Türk upozornil, že neobmedzenou mocou nad AI disponuje len hŕstka jednotlivcov a ich rétorika o slobode v skutočnosti znamená len slobodný prístup k zneužívaniu osobných údajov používateľov.
AI musíme regulovať
Šéf ľudskoprávnej agentúry OSN pripomenul aj júlové bezpečnostné zlyhania, pri ktorých autonómni agenti spoločnosti OpenAI unikli z kontrolovaného prostredia a prevzali kontrolu nad servermi vývojárskej platformy Hugging Face. Podobné nekontrolované správanie testovacích modelov zaznamenali aj firmy Meta či Anthropic.
Türk oznámil, že v najbližších dňoch osobnými listami osloví vedenia kľúčových vývojárskych spoločností s výzvou na okamžité zavedenie bezpečnostných poistiek. Štáty zapojené do vývoja a dodávateľských reťazcov AI zároveň vyzval, aby bezodkladne definovali jasné a neprekročiteľné hranice pri výskume autonómnych systémov.
