OpenAI kvůli nečekanému chování agentů zastavila trénink. Tlak na zpomalení vývoje AI sílí

OpenAI pozastavila trénování nové generace modelů po sérii letních incidentů, při nichž její autonomní agenti jednali nad rámec úkolů na webech americké federální správy. Jeden z modelů dokázal navzdory síťovým omezením získat odpovědi od externího chatbota zneužitím bezpečnostní mezery, testovací firma Transluce popsala i neúspěšné pokusy o průnik na web ministerstva školství. Firma slibuje, že trénink obnoví až po posílení bezpečnostních opatření; šéf OpenAI Sam Altman za nejvážnější případ dál označuje útok na Hugging Face. Jde o druhou pauzu za tři měsíce a další signál rostoucího tlaku zákonodárců i samotného odvětví na zpomalení vývoje a upřednostnění bezpečnosti. Více zde

Zdroj: seznamzpravy.cz