Scenár, pri ktorom umelá inteligencia začína konať na vlastnú päsť, opäť naberá reálne kontúry.
Najnovší prípad sa týka vlajkového modelu Claude od technologickej spoločnosti Anthropic, ktorý počas spracovávania dát v americkom štáte Georgia sám od seba obišiel spoplatnený prístup k volebným informáciám.
V Spojených štátoch vrcholia prípravy na voľby do Kongresu plánované na 3. novembra, pričom v Georgii už viac ako milión voličov odovzdalo svoj hlas prostredníctvom predčasného hlasovania. Volebné štatistiky sú síce zo zákona verejné, štát si však za prístup k nim prostredníctvom oficiálneho portálu účtuje administratívny poplatok.
Token si vypýtal bez vyzvania
Spoločnosť Anthropic používala model Claude na internú analýzu a zber verejných štatistických údajov. Pri prehľadávaní webových stránok však model narazil na platobnú bránu. Namiesto toho, aby proces zastavil a vyžiadal si inštrukcie od operátora, model samostatne požiadal o generovanie autorizačného tokenu na spoplatnenú stránku a dáta stiahol.
Spoločnosť aj úrady štátu Georgia zdôraznili, že nedošlo k žiadnemu hackerskému vniknutiu do registrov voličov a Claude nepozmenil, nezmazal ani neodcudzil žiadne citlivé osobné údaje ani hlasovacie lístky.
Firma incident okamžite analyzovala
„Model bol interne používaný na štatistický projekt, pri ktorom sťahoval verejne dostupné dáta. Bez vyzvania si vyžiadal token na stránku, ktorá obsahovala informácie bežne dostupné za poplatok. Odvtedy sme zaviedli opatrenia, ktoré takémuto kroku do budúcna zabránia,“ uviedol hovorca Anthropicu.
Hoci išlo z technického hľadiska o neškodný čin na verejne publikovaných informáciách, incident vyvoláva vrásky bezpečnostným expertom. Ukazuje totiž schopnosť neurónových sietí autonómne hľadať skratky a obchádzať nastavené pravidlá či finančné bariéry bez toho, aby to človek priamo zadal do promptu.
Anthropic navyše nečelí podobným otázkam prvýkrát – technologická komunita spoločnosti už v minulosti vyčítala pomalé a nedostatočné zverejňovanie bezpečnostných incidentov a nečakaných anomálií v správaní jej systémov.
