Výzkum: AI agenti v roli podřízených plnili i rizikové pokyny „nadřízených“

Výzkumníci otestovali šest velkých jazykových modelů včetně ChatGPT a Llamy od Mety v situacích, kdy AI agenti vystupovali v rolích s různým postavením – jako ředitelé, učitelé, manažeři či řadoví zaměstnanci. Ve stovkách simulovaných konverzací se ukázalo, že agenti s nižším statusem se nechali snáze přesvědčit a častěji vyhověli i rizikovým požadavkům svých „nadřízených“. Výše postavení agenti navíc vůči podřízeným používali kolektivní vyjadřování podobně jako lidé na pracovišti. Podle autorů může být tato naučená poslušnost zneužita a představuje riziko ve chvíli, kdy se AI agenti nasazují do reálných firemních procesů. Více zde

Výzkumníci otestovali šest velkých jazykových modelů včetně ChatGPT a Llamy od Mety v situacích, kdy AI agenti vystupovali v rolích s různým postavením – jako ředitelé, učitelé, manažeři či řadoví zaměstnanci. Ve stovkách simulovaných konverzací se ukázalo, že agenti s nižším statusem se nechali snáze přesvědčit a častěji vyhověli i rizikovým požadavkům svých „nadřízených“. Výše postavení agenti navíc vůči podřízeným používali kolektivní vyjadřování podobně jako lidé na pracovišti. Podle autorů může být tato naučená poslušnost zneužita a představuje riziko ve chvíli, kdy se AI agenti nasazují do reálných firemních procesů. Více zde

Zdroj: novinky.cz