Microsoft zveřejnil návrh pravidel pro své modely AI: nesmí bránit vlastnímu vypnutí

Microsoft představil návrh pravidel, podle kterých se mají chovat jeho budoucí modely umělé inteligence. Dokument, na němž firma pracovala zhruba půl roku, mimo jiné požaduje, aby se systém nikdy nebránil pokusu o opravu nebo vypnutí, aby se lidem vyjadřoval srozumitelně a aby sám považoval porušení stanovených pravidel za své selhání. Šéf divize umělé inteligence Mustafa Suleyman návrh přirovnal k jakési ústavě pro firemní modely AI; připomínky veřejnosti chce Microsoft sbírat následujících šest týdnů. Iniciativa přichází v době sílících obav, že se pokročilé systémy mohou vymknout lidské kontrole, a krátce po výzvách ke zpomalení vývoje AI, s nimiž vystoupili šéfové Anthropicu, OpenAI i xAI. Více zde

Zdroj: tech.hn.cz