Po vlne medzinárodnej kritiky a začatí vyšetrovania v Kalifornii už chatbot nebude môcť generovať sexualizovaný deepfake obsah.
Platforma X Elona Muska v stredu oznámila, že jej nástroj umelej inteligencie (AI) Grok už nebude upravovať fotografie skutočných ľudí tak, aby ich zobrazoval v odhaľujúcich odevoch. Sociálna sieť týmto krokom reaguje na masívnu kritiku, ktorej chatbot čelil po tom, ako generoval sexualizované obrázky žien a detí.
Bezpečnostný tím X vo svojom vyhlásení uviedol: „Zaviedli sme technologické opatrenia, aby sme zabránili chatbotu Grok editovať obrázky skutočných ľudí v odhaľujúcom oblečení, ako sú bikiny.“ Zároveň dodal, že „toto obmedzenie sa vzťahuje na všetkých používateľov, vrátane platiacich predplatiteľov“.
Spoločnosť tieto opatrenia oznámila len niekoľko hodín po tom, čo generálny prokurátor amerického štátu Kalifornia začal vyšetrovať firmu xAI, ktorá chatbot Grok vyvíja. Vyšetrovanie sa sústreďuje na vytváranie „neoprávneného, sexuálne explicitného obsahu“. Firma xAI sa dostala pod tlak najmä kvôli funkcii „Spicy Mode“, cez ktorú používatelia pomocou jednoduchých textových príkazov vytvárali sexualizovaný deepfake obsah.
