V posledních dnech obletělo internetem video, na kterém americký prezident Donald Trump olizuje miliardáři Elonu Muskovi prsty na nohou. Tento podivný a šokující obsah, vytvořený pomocí technologie deep fake využívající umělou inteligenci, se dokonce objevil na obrazovkách vládních institucí, čímž znovu otevřel debatu o nebezpečí falešných videí a jejich dopadu na společnost. 

Šíření videa ve vládních institucích a na internetu

Falešné video se objevilo na monitorech ve washingtonském sídle amerického ministerstva pro bydlení a městský rozvoj (HUD). Video bylo přehráváno ve smyčce a doprovázel ho nápis "Ať žije skutečný král". Incident vyvolal pozornost médií a veřejnosti, přičemž zaměstnanci ministerstva nebyli schopni okamžitě zjistit, jak byly monitory nabourány, a nakonec některá zařízení prostě odpojili.

Původní video (Zdroj: Pauley Ticks / BlueSky)

"Video bylo vygenerováno s pomocí nástrojů umělé inteligence pravděpodobně velmi jednoduchým postupem - původce nejdříve vytvořil s pomocí AI deep fake fotografii (která obsahuje chyby, např. obě nohy Elona Muska jsou levé), poté ji rozhýval s využitím jednoho z desítek různých nástrojů - např. Runway, Minimax apod.", uvádí prof. Kamil Kopecký z Univerzity Palackého v Olomouci. Zároveň doplňuje: "Vytvořit podobné video je bohužel v současnosti velmi snadné, stačí k tomu v podstatě jen nápad a několit minut času. Navíc to nevyžaduje žádné pokročilé digitální dovednosti." 

Co je deepfake video?

Deepfake je technologie využívající pokročilé algoritmy umělé inteligence a strojového učení k vytváření realistických, ale falešných videí a audionahrávek. Tato technologie umožňuje manipulovat s obličeji, gesty a hlasy lidí tak, že divák často nedokáže rozpoznat podvod.

Deepfake jako součást podvodů

Deepfake videa se v posledních letech stávají nástrojem nejen pro zábavné mystifikace, ale i pro podvodné útoky. V České republice se jejich terčem stali například prezident Petr Pavel, expremiér Andrej Babiš, premiér Petr Fiala, ministr Ivan Bartoš, ale také herci jako Tereza Pergnerová. Často jsou zneužíváni i moderátoři a značky velkých televizí, například Česká televize nebo CNN Prima News. Tato falešná videa mohou být využita k manipulaci s veřejným míněním, šíření dezinformací nebo dokonce k finančním podvodům. Příklady těchto videí najdete na našem webu: https://ai.e-bezpeci.cz/rizika.

Jak se bránit a chránit před deepfake videi

Existuje několik způsobů, jak se bránit proti deepfake videím:

A. Ověřování zdrojů: Při sledování online obsahu je důležité ověřovat důvěryhodnost zdrojů a být obezřetný vůči podezřelým materiálům. 

B. Vzdělávání a povědomí: Zvyšování povědomí o existenci a rizicích deepfake technologií může pomoci veřejnosti lépe rozpoznat potenciálně falešný obsah.

C. Technologická řešení: Vývoj a implementace nástrojů schopných detekovat deepfake videa mohou pomoci identifikovat a omezit šíření falešného obsahu.

Závěr

Incident s deepfake videem prezidenta Trumpa a Elona Muska poukazuje na rostoucí hrozbu, kterou představují falešná videa. Je nezbytné, aby veřejnost byla informována o existenci těchto technologií a aby byla přijata opatření k ochraně před jejich zneužitím.

Redakce E-Bezpečí

Zdroje

BlueSky
Bogus video of Trump and Musk briefly appears on screens at US government office
Vášnivá líbačka Trumpa a Muskova palce! Hackeři poslali falešné video na obrazovky ministerstva
Falešné video Trumpa cucajícího Muskovy nohy se objevilo v sídle ministerstva