Home Rizikové jevy Sociální sítě a jejich rizika AI a dezinformace: Jak umělá inteligence zasahuje do olympijských her v Paříži

Podpořte nás

Podpořte naše aktivity a pomozte dětem a dospělým v nouzi. Již 15 let pomáháme dětem a dospělým řešit jejich problémy na internetu. Zapojte se i vy! Každá pomoc se počítá! Stačí kliknout na tlačítko DONATE.

Remove


mini_cruise.jpgUmělá inteligence (AI) je technologický nástroj s obrovským potenciálem, ale také s nebezpečnými možnostmi zneužití. V posledních měsících se stala středobodem mezinárodních debat o bezpečnosti a dezinformacích, zejména v souvislosti s nadcházejícími olympijskými hrami v Paříži 2024.

Článek ve zvukové podobě namluvený umělou inteligencí

Microsoft nedávno vydal zprávu, která odhaluje, že ruské vládní agentury využívají AI k šíření dezinformací a destabilizaci důvěry v olympijské hry v Paříži 2024. Součástí této kampaně jsou deep fake videa, což jsou realistická, ale zcela falešná videa vytvořená pomocí AI technologií. Jedním z nejvýraznějších příkladů jsou falešná videa s hercem Tomem Cruisem.

Terčem těchto dezinformačních videí se stal např. Mezinárodní olympijský výbor (MOV) – na internetu (na platformě Telegram i jiných službách) se např. objevilo deep fake video, ve kterém falešný Tom Cruise v rámci nového (=fiktivního) dokumentárního seriálu Netflixu s názvem Olympics Has Fallen kritizuje MOV za korupci a likvidaci olympijského sportu.

olympdp1.jpg

Vizuál z falešného dokumentárního filmu „Olympics Has Fallen“ (Olympiáda padla), který vytvořila s Ruskem spojena skupina Storm-1679

Video je podvrh a objevilo se krátce poté, co MOV pozastavil činnost Ruského národního olympijského výboru kvůli jeho rozhodnutí uznat regionální sportovní organizace v okupovaných oblastech Doněck, Cherson, Luhansk a Záporoží na Ukrajině za své členy. Podoba Toma Cruise byla dále zneužita i v dalších videích, ve kterých varuje před násilím během letních olympijských her 2024 v Paříži. Autorství těchto podvodných videí je připisováno Ruské federaci, konkrétně uživatelům/influencerům/skupině Storm-1679 a Storm-1099 (viz analýza Microsoftu). Cílem těchto videí je především poškodit pověst MOV a vytvořit očekávání, že na olympijských hrách v Paříži propukne násilí.

fallen2.jpeg

Fake - žádný Netflix, ale produkt Storm-1679

Dezinformační videa, která zneužívají podobu a hlas známých osobností, jsou příkladem toho, jak může být umělá inteligence využita k manipulaci s veřejným míněním a narušení důvěry v autority a instituce. Tato videa mají potenciál vyvolat zmatek, rozdělení a konflikt mezi lidmi i státy. Je proto důležité, aby byla veřejnost vzdělávána v tom, jak poznat a ověřit pravost a zdroj informací, které se šíří na internetu a sociálních médiích. Je také nutné, aby byly vytvořeny společné etické a právní standardy pro používání umělé inteligence a aby bylo zajištěno odpovědné a transparentní jednání jejích tvůrců a uživatelů.  A samozřejmě se v oblasti umělé inteligence systematicky vzdělávat. Pomoci může třeba kurz Základy umělé inteligence od E-Bezpečí.

Pro E-Bezpečí
Kamil Kopecký
Univerzita Palackého v Olomouci

Použité zdroje

Microsoft on the Issues Blog
Microsoft Report on Russian Influence and Paris 2024
Seznam Zprávy - Olympiáda padla, říká ve videu falešný Tom Cruise
The Guardian - Russia Paris Olympics Deepfake Tom Cruise Video
Fortune Europe - Russian Bots and Microsoft Storm-1679 Fake Tom Cruise
Politico - Deepfakes, distrust and disinformation
EDMO - Prebunking AI-generated disinformation ahead of EU elections
Stars and Stripes - AI deepfakes threaten to upend global elections

Jak citovat tento text:
KOPECKÝ, Kamil. AI a dezinformace: Jak umělá inteligence zasahuje do olympijských her v Paříži. E-Bezpečí, roč. 9 (2024), č. 1, s. 94-96. ISSN 2571-1679. Dostupné z: https://www.e-bezpeci.cz/index.php?view=article&id=4057

 

Ocenění projektu E-Bezpečí

pohar
KYBER Cena 2023
(1. místo)
pohar
Nejlepší projekt prevence kriminality na místní úrovni 2023
(1. místo)
pohar
Evropská cena prevence kriminality 2015
(1. místo)

Partneři a spolupracující instituce

 

Generální partner projektu E-Bezpečí

logo o2

Další partneři a spolupracující instituce

 logo nadaceo2logo googlelogo msmtlogo mvcrlogo olomouclogo olomouckykrajlogo ostravalogo hoaxlogo policielogo rozhlaslogo linkabezpecilogo microsoft bwlogo czniclogo nukiblogo podanerucelogo googleovachamp_logo.png

 

E-BEZPEČÍ: AI CHATBOT
Ahoj, jsem chatovací robot projektu E-Bezpečí a mohu ti pomoci zodpovědět základní otázky a vyřešit tvé problémy. Zvol si z nabídky, nebo svůj dotaz napiš přímo do chatu.
We use cookies

Na naší webové stránce používáme cookies. Některé z nich jsou nutné pro běh stránky, zatímco jiné nám pomáhají vylepšit vlastnosti stránky na základě uživatelských zkušeností (tracking cookies). Sami můžete rozhodnout, zda cookies povolíte. Mějte prosím na paměti, že při odmítnutí, nemusí být stránka zcela funkční.

We use cookies

Na naší webové stránce používáme cookies. Některé z nich jsou nutné pro běh stránky, zatímco jiné nám pomáhají vylepšit vlastnosti stránky na základě uživatelských zkušeností (tracking cookies). Sami můžete rozhodnout, zda cookies povolíte. Mějte prosím na paměti, že při odmítnutí, nemusí být stránka zcela funkční.