Prípad zároveň vyšetruje aj Európska únia.
Britský regulátor médií Ofcom oznámil, že sa obrátil na sociálnu sieť X pre podozrenia, že jej AI nástroj Grok vytvára nepravé pornografické obrázky detí. Úrad potvrdil, že o prípade rokuje priamo so spoločnosťami X a xAI.
Ochrana detí je podľa regulátora naliehavou prioritou
Ofcom zdôraznil, že ochrana detí na internete zostáva jeho prioritou. „Boj proti nelegálnemu škodlivému obsahu na internete a ochrana detí naďalej patria medzi naliehavé priority Ofcomu,“ uviedol hovorca. Dodal aj, že úrad vníma „vážne obavy“ z funkcie Grok na platforme X, ktorá má vytvárať „obrázky nahých ľudí a sexualizované snímky detí“.
Regulátor si od platforiem vyžiadal informácie o tom, aké opatrenia prijali na splnenie svojich zákonných povinností voči používateľom v Spojenom kráľovstve. Po doručení odpovedí rozhodne, či bude potrebné začať ďalšie vyšetrovanie.
Reakcia Európskej únie
Na problém reagovala aj Európska únia, ktorá oznámila, že prípad „vážne prešetruje“. Podľa EÚ Grok údajne ponúka „pikantný režim“ so sexuálne explicitným obsahom, pričom niektoré výstupy podľa podozrení zobrazovali deti. Hovorca EÚ pre digitálne záležitosti Thomas Regnier to okomentoval slovami: „To nie je pikantné. To je nezákonné. Je to desivé.“
Zástupcovia aplikácie Grok už priznali, že odhalili „nedostatky v bezpečnostných opatreniach“ a uviedli, že na ich odstránení „naliehavo“ pracujú.
Pravidlá v Spojenom kráľovstve
V Spojenom kráľovstve platí, že platformy musia zabraňovať šíreniu nelegálneho a škodlivého obsahu a zavádzať prísne overovanie veku. Nezákonné je tiež vytváranie alebo šírenie intímnych materiálov bez súhlasu osôb či materiálov so zneužívaním detí, vrátane takzvaných deepfakeov vytvorených umelou inteligenciou.
