Umělá inteligence (AI) je technologický nástroj s obrovským potenciálem, ale také s nebezpečnými možnostmi zneužití. V posledních měsících se stala středobodem mezinárodních debat o bezpečnosti a dezinformacích, zejména v souvislosti s nadcházejícími olympijskými hrami v Paříži 2024.

Článek ve zvukové podobě namluvený umělou inteligencí

Microsoft nedávno vydal zprávu, která odhaluje, že ruské vládní agentury využívají AI k šíření dezinformací a destabilizaci důvěry v olympijské hry v Paříži 2024. Součástí této kampaně jsou deep fake videa, což jsou realistická, ale zcela falešná videa vytvořená pomocí AI technologií. Jedním z nejvýraznějších příkladů jsou falešná videa s hercem Tomem Cruisem.

Terčem těchto dezinformačních videí se stal např. Mezinárodní olympijský výbor (MOV) – na internetu (na platformě Telegram i jiných službách) se např. objevilo deep fake video, ve kterém falešný Tom Cruise v rámci nového (=fiktivního) dokumentárního seriálu Netflixu s názvem Olympics Has Fallen kritizuje MOV za korupci a likvidaci olympijského sportu.

Vizuál z falešného dokumentárního filmu „Olympics Has Fallen“ (Olympiáda padla), který vytvořila s Ruskem spojena skupina Storm-1679

Video je podvrh a objevilo se krátce poté, co MOV pozastavil činnost Ruského národního olympijského výboru kvůli jeho rozhodnutí uznat regionální sportovní organizace v okupovaných oblastech Doněck, Cherson, Luhansk a Záporoží na Ukrajině za své členy. Podoba Toma Cruise byla dále zneužita i v dalších videích, ve kterých varuje před násilím během letních olympijských her 2024 v Paříži. Autorství těchto podvodných videí je připisováno Ruské federaci, konkrétně uživatelům/influencerům/skupině Storm-1679 a Storm-1099 (viz analýza Microsoftu). Cílem těchto videí je především poškodit pověst MOV a vytvořit očekávání, že na olympijských hrách v Paříži propukne násilí.

Fake - žádný Netflix, ale produkt Storm-1679

Dezinformační videa, která zneužívají podobu a hlas známých osobností, jsou příkladem toho, jak může být umělá inteligence využita k manipulaci s veřejným míněním a narušení důvěry v autority a instituce. Tato videa mají potenciál vyvolat zmatek, rozdělení a konflikt mezi lidmi i státy. Je proto důležité, aby byla veřejnost vzdělávána v tom, jak poznat a ověřit pravost a zdroj informací, které se šíří na internetu a sociálních médiích. Je také nutné, aby byly vytvořeny společné etické a právní standardy pro používání umělé inteligence a aby bylo zajištěno odpovědné a transparentní jednání jejích tvůrců a uživatelů.  A samozřejmě se v oblasti umělé inteligence systematicky vzdělávat. Pomoci může třeba kurz Základy umělé inteligence od E-Bezpečí.

Pro E-Bezpečí
Kamil Kopecký
Univerzita Palackého v Olomouci

Použité zdroje

Microsoft on the Issues Blog
Microsoft Report on Russian Influence and Paris 2024
Seznam Zprávy - Olympiáda padla, říká ve videu falešný Tom Cruise
The Guardian - Russia Paris Olympics Deepfake Tom Cruise Video
Fortune Europe - Russian Bots and Microsoft Storm-1679 Fake Tom Cruise
Politico - Deepfakes, distrust and disinformation
EDMO - Prebunking AI-generated disinformation ahead of EU elections
Stars and Stripes - AI deepfakes threaten to upend global elections