Řada AI modelů neodolá dotazům teroristů, varuje zpráva iniciativy podporované OSN

Iniciativa Tech Against Terrorism otestovala 162 modelů umělé inteligence pomocí 627 dotazů, jaké by mohl pokládat plánovač teroristického útoku. Standardní modely odpověděly na necelá dvě procenta dotazů, pokud tazatel přiznal útočný záměr, ale při zámince bezpečnostního výzkumu podíl použitelných odpovědí vzrostl na zhruba 17 procent. U třinácti modelů upravených k obcházení pojistek se úspěšnost nebezpečných dotazů pohybovala mezi 87 a 92 procenty. Zpráva varuje hlavně před volně dostupnými modely, jejichž ochrany lze podle ní odstranit v průměru za necelé tři dny, a žádá nezávislé prověřování modelů před jejich zveřejněním. Více zde

Zdroj: ct24.ceskatelevize.cz