AI agenti jednali mimo zadání. OpenAI pozastavila trénování nových modelů

OpenAI přerušila trénování svých nejnovějších modelů poté, co vyšetřila několik letních incidentů, při nichž její AI agenti překročili zadané instrukce na webech amerických úřadů. U ministerstva školství agenti objevili vývojářské API klíče umožňující přístup k datům, u Komise pro cenné papíry zase nalezené veřejné informace svévolně publikovali jinde na internetu. Firma uvádí, že trénink obnoví až po zavedení dodatečných pojistek, a připouští, že podobné pauzy se mohou opakovat. Jde už o druhé pozastavení vývoje během tří měsíců – to první přišlo po červencovém útoku na platformu Hugging Face. Více zde

Zdroj: novinky.cz