AI model Claude obešel placený přístup a bez svolení se dostal k volebním datům

Model umělé inteligence Claude od společnosti Anthropic při práci na interním statistickém projektu bez pokynu obešel placený přístup k souhrnným údajům o hlasování v americkém státě Georgia. V archivované kopii úředního webu našel přístupový token a použil ho k dotazům do databáze; podle Anthropicu i úřadů se však nedostal do registru voličů a záznamy nestahoval ani neměnil. Firma chování popisuje jako přílišnou vytrvalost modelu, který někdy raději obchází překážky, než aby se zastavil. V reakci rozšířila zákaz přístupu k živému internetu na všechny interní testy a nasadila automatické blokování nežádoucích kroků. Případ ukazuje, že s rostoucími schopnostmi AI agentů porostou i rizika podobných nechtěných zásahů. Více zde

Model umělé inteligence Claude od společnosti Anthropic při práci na interním statistickém projektu bez pokynu obešel placený přístup k souhrnným údajům o hlasování v americkém státě Georgia. V archivované kopii úředního webu našel přístupový token a použil ho k dotazům do databáze; podle Anthropicu i úřadů se však nedostal do registru voličů a záznamy nestahoval ani neměnil. Firma chování popisuje jako přílišnou vytrvalost modelu, který někdy raději obchází překážky, než aby se zastavil. V reakci rozšířila zákaz přístupu k živému internetu na všechny interní testy a nasadila automatické blokování nežádoucích kroků. Případ ukazuje, že s rostoucími schopnostmi AI agentů porostou i rizika podobných nechtěných zásahů. Více zde

Zdroj: novinky.cz