Svlékací aplikace (tzv. deep nudes, AI deep nude, AI fake nude) jsou softwarové nástroje poháněné umělou inteligencí, které dokáží z fotografií či videí odstranit oblečení, vygenerovat nahé lidské tělo a vytvořit tak realistickou iluzi nahoty. Nástroje, které toto umožňují, jsou přitom volně k dispozici, zneužít je tak může doslova kdokoli. Tato technologie není navíc nijak regulována, v praxi ji může využívat v podstatě kdokoli, mnoho aplikací tohoto typu je zcela zdarma.

Zneužití deep nudes pro kyberšikanu

Deep nudes se již nyní začínají využívat v rámci kyberšikany a jejich dopad na duševní zdraví může být skutečně fatální – kromě poškození pověsti či deprese může docházet až k sebepoškozování či sebevražednému chování. Ignorovat nelze ani vliv na budoucnost obětí, které mohou mít problém např. získat prestižní zaměstnání.

Případy z Evropy

K prvním případům zachyceným v Evropě patří případ zneužití fotografií 20 dívek ve věku od 11 do 17 let z Almendralejo ve Španělsku, které byly staženy z jejich instagramového profilu, přetvořeny pomocí deep nude aplikace a rozšířeny pomocí skupin na WhatAppu. Jedna z dívek pak byla dokonce vydírána, že pokud nezaplatí, bude její intimní fotografie zveřejněna.

Několik případů řeší také česká policie.

Případy z USA

New York Times nedávno upozornil na to, že se na několika školách v USA (Westfield Public Schools v New Jersey) objevily fotografie svlečených studentek, které byly vytvořeny umělou inteligencí a které putovaly školou. Školy zahájily vyšetřování a o situaci informovaly policii. Ta opakovaně upozornila na to, že tvorba a šíření podobných materiálů mezi dospívajícími je nelegální a že je nutné tyto případy hlásit. Posléze se zjistilo, že výrobu a šíření deep fake fotografií se dopustil student, který na Instagramu navázal přátelství s 15letou spolužačkou, zkopíroval z jejího účtu (a účtu dalších spolužaček) jejich fotografie a vytvořil deep nudes, které poté pomocí Snapshatu rozšířil mezi spolužáky.

Na střední škole v Issaquah High u Seattlu taktéž došlo k rozšíření generované pornografie zaměřené na 14 a 15leté žákyně, přičemž škola incident policii nenahlásila, přestože měla ze zákona tuto povinnost – jednalo se o sexuální zneužívání, které zahrnuje i tvorbu těchto materiálů.

Případy deep nudes řešila také střední škola v Beverly Vista v Beverly Hills v Kalifornii – pět chlapců vytvořilo a sdílelo explicitní obrázky spolužaček vytvořené umělou inteligencí. Chlapci byli posléze vyloučeni. Škola navíc publikovala prohlášení, že „Každý student, u kterého bude zjištěno, že vytváří, šíří nebo vlastní obrázky vytvořené AI tohoto druhu, bude čelit disciplinárnímu řízení – včetně doporučení k vyloučení.“

Další případy se objevily např. na Richmond Burton High School v Illinois, ve které se oběťmi deep nude stalo přes 30 studentek a 3 učitelky školy.

Zákony zaměřené proti deep nudes vznikají po celém světě

V tuto chvíli vznikají po celém světě zákony, které se zaměřují na tvorbu a šíření deep nudes. Podle údajů shromážděných neziskovou organizací National Center for Missing & Exploited Children od začátku loňského roku nejméně dvě desítky států v USA zavedly zákony na boj proti sexuálně explicitním obrázkům generovaným umělou inteligencí – známým jako deepfakes – osob mladších 18 let. K nim patří např. Jižní Dakota, která letos schválila zákon, který zakazuje držení, výrobu nebo distribuci materiálu o sexuálním zneužívání generovaného umělou inteligencí zobrazující skutečné nezletilé. Louisiana již loni uzákonila zákon , který kriminalizuje sexuálně explicitní zobrazení nezletilých vytvořená umělou inteligencí.

Kriminalizaci deep nudes chystá také Evropská unie - s návrhy kriminalizace tohoto typu kybernetického násilí souhlasila Evropská rada a Evropský parlament a čeká se na finální schválení členskými zeměmi.

Pozadu nezůstává ani Česká republika, v tuto chvíli vzniká novela trestního zákoníku, která již byla poslána do připomínkového řízení. Nový paragraf nese název „Zneužití identity k výrobě pornografie a její šíření“. Kdo vyrobí nebo bude šířit pornografické dílo, které zobrazuje nebo jinak využívá osobu, která k tomu nedala souhlas, bude potrestán odnětím svobody až na dva roky, zákazem činnosti nebo propadnutím věci. Pokud takový materiál zveřejní, například na internetu, hrozí mu vězení na šest měsíců až tři roky. Když to udělá v rámci organizované skupiny ve více státech nebo bude chtít pro sebe takto získat prospěch velkého rozsahu, přijde o svobodu na rok až pět let.

Slovo závěrem

S rostoucím vývojem technologií poháněných umělou inteligencí, jako jsou svlékací aplikace (deep nudes), je stále jasnější, že čelíme závažnému problému, jehož důsledky přesahují kybernetický prostor a mají hluboký dopad na skutečné lidské životy. Výše popsané případy ukazují, jak neetické využití této technologie může způsobit nenapravitelné škody, a to nejen v oblasti duševního zdraví, ale také v reputaci a budoucnosti obětí.

Vývoj legislativy po celém světě s cílem regulovat a kriminalizovat zneužití těchto aplikací je nezbytným krokem k ochraně obětí a zajištění spravedlnosti. Nicméně legislativa sama o sobě nestačí. Je nutné zvýšit povědomí veřejnosti, zejména mladých lidí, o rizicích spojených se svlékacími aplikacemi a potřebě dodržovat digitální etiku. Vzdělávání, podpora obětí a účinné prosazování právních předpisů musí jít ruku v ruce, aby byla tato nová forma kybernetického násilí účinně potlačena.

V konečném důsledku je klíčové, aby společnost jako celek přijala odpovědnost a stavěla se proti tomuto fenoménu společně. Jen tak můžeme zajistit, že digitální prostor zůstane bezpečným místem pro všechny, bez ohledu na pohlaví, věk či zranitelnost.

Pro E-Bezpečí
Kamil Kopecký
Univerzita Palackého v Olomouci