V těchto dnech vychází nová elektronická publikace Rizika spojená s umělou inteligencí, kterou pro vás připravil tým E-Bezpečí z Pedagogické fakulty Univerzity Palackého v Olomouci ve spolupráci s Univerzitou Karlovou a hubem CEDMO a která se věnuje velmi důležité a aktuální problematice potenciálních a reálných rizik spojených s umělou inteligencí (AI).

V úvodních částech publikace se autoři věnují především problematice halucionování a tzv. AI biasu, mimo jiného např. stereotypizací a zkreslování informací umělou inteligencí. V praxi pak umělá inteligencí nemusí uživatelům sdělit vyloženě nepravdivou informaci, ale informaci, která je určitým způsobem zkreslena. Prof. Kamil Kopecký z Univerzity Palackého v Olomouci komentuje problematiku takto: „Umělá inteligence samozřejmě dělá faktické chyby, ale může se také dopouštět zkreslování reality a upevňovat v nás určité druhy stereotypů spojených např. s rasou, národností či pohlavím. Podle několika výzkumů se např. stereotypního zkreslování dopouštějí AI nástroje pro generování obrázků (Dall-E, Midjourney), které osoby s vyšším sociálním statutem zobrazují se světlou pletí, zatímco osoby s nižším sociálním statutem s pletí tmavou (či s asijskými rysy). To vše je dáno jak povahou databází, na kterých jsou modely trénovány a které často nejsou v rovnováze. Nemusí jít však jen o stereotypy spojené s rasou, ale také např. národností – Indové jsou většinou generováni AI v turbanu, Mexičané jsou podle AI zarostlí, mají na hlavě sombrero a nosí pončo apod.“ Tento problém se před časem pokusila vyřešit firma Google ve svém nástroji Google Gemini a chtěla svým uživatelům nabídnout technologii, která bude rasově neutrální – jejich snaha o posílení diverzity však skončila fiaskem a v současnosti se pracuje na jeho nápravě.

Dalším klíčovým tématem knihy je přirozeně zneužívání generativní AI k tvorbě dezinformací a falešných zpráv. I přes existenci etických omezení mohou bohužel uživatelé umělé inteligence tato pravidla obejít a generovat texty dezinformační povahy v podstatě na přání, problém nejsou např. hoaxy, ale třeba i vyděračské dopisy, podvodný spam apod. Významnou část knihy autoři věnují i deepfake technologiím, které umožňují vytvářet realistická videa s fiktivními událostmi, což může vést k narušení důvěry ve veřejné instituce a ovlivnění např. politických procesů (včetně voleb). Deepfake videa se také využívají k internetovým podvodům, což vidíme každodenně např. v prostředí sociálních sítí v rámci investičních podvodů využívajících např. kryptoměny. Tyto podvody velmi často zneužívají právě známé osobnosti (jejich vzhled, hlas, gesta), které jsou vygenerovány právě AI.

Publikace rovněž upozorňuje na některé právní a etické otázky spojené s využíváním AI (ostatně tato problematika se neustále vyvíjí a proměňuje v souvislosti s existujícími soudními procesy). Kniha také zmiňuje ekologické dopady provozu AI systémů, které vyžadují značné množství energie a vody, a rizika úniku citlivých údajů, kdy uživatelé nevědomky poskytují své osobní informace při používání AI nástrojů. Celkově autoři apelují na potřebu regulace a kritického přístupu k využívání generativní umělé inteligence.

Publikaci s můžete stáhnout zde.