K vytvoření falešné pornografie může stačit jediná fotografie ze sociální sítě

K vytvoření falešné intimní fotografie už pachatel nepotřebuje získat skutečný soukromý snímek oběti. Generativní umělé inteligenci může stačit běžný portrét zveřejněný na sociální síti, školním webu nebo firemním profilu. Výsledný obsah přitom může působit natolik věrohodně, že jej okolí považuje za autentický. Takzvané sexuální deepfaky se proto stávají novou formou obtěžování, ponižování a nátlaku, která může zasáhnout děti i dospělé.

• Generativní AI dokáže spojit skutečnou tvář s uměle vytvořeným intimním obsahem
• Obětí se může stát i člověk, který nikdy žádnou intimní fotografii nepořídil
• Falešný snímek může poškodit osobní vztahy, psychiku, studium i pracovní pověst
• Největší chybu představuje další přeposílání obsahu, a to i ze zvědavosti
• Při odhalení deepfaku je důležité uložit důkazy a co nejrychleji požádat platformu o odstranění

Obětí může být i člověk, který intimní snímek nikdy nevytvořil

U klasického zneužití intimních fotografií pachatel získá skutečný materiál, který následně zveřejní nebo jím oběť vydírá. Generativní umělá inteligence tuto hranici posouvá. Dokáže vytvořit sexuálně explicitní obsah, který nikdy nevznikl, ale využívá podobu konkrétního člověka. Útočníkovi může posloužit profilová fotografie, snímek z dovolené nebo portrét převzatý z veřejného webu. Ohroženi proto nejsou pouze lidé, kteří někomu poslali intimní obsah. Terčem se může stát prakticky kdokoliv, jehož fotografie je dostupná na internetu.

„Už nyní se setkáváme s případy, kdy někdo zneužije běžnou fotografii a pomocí generativní umělé inteligence vytvoří pornografický obsah. Pro oběť přitom není podstatné, že je snímek falešný. Jakmile se začne šířit mezi spolužáky, kolegy nebo známými, může mít velmi reálné dopady na její psychiku, vztahy i pověst,“ říká Eliška Poledníčková z organizace Konsent, která se zabývá prevencí sexuálního násilí a obtěžování a zasazuje se o změnu přístupu k sexu a vztahům.

Obsah je falešný, způsobená újma však skutečná

Sexuální deepfake může sloužit jako prostředek pomsty po rozchodu, šikany mezi spolužáky, nátlaku na kolegyni nebo snahy poškodit veřejně známého člověka. Pachatel může hrozit zveřejněním materiálu, požadovat peníze, další fotografie nebo osobní schůzku. Někdy obsah zveřejní bez předchozího kontaktu pouze s cílem oběť ponížit.

„Rychlost sociálních sítí navíc způsobuje, že se falešný snímek během krátké doby dostane mimo původní skupinu. Ani jeho následné odstranění z jednoho profilu proto nemusí znamenat konec problému. Kopie mohou zůstávat v soukromých konverzacích, uzavřených skupinách nebo v dalších zařízeních,“ říká Martin Kůs z Vuch.

„Významnou odpovědnost mají také příjemci podobného obsahu. Přeposlání kamarádovi „jen pro zajímavost“ pomáhá materiál dál šířit a prohlubuje újmu oběti. Správnou reakcí je snímek neposílat, upozornit na jeho problematický původ a případně podpořit člověka, jehož podobu zneužívá,“ říká Michal Černý z Audiopro.

Zveřejněné fotografie nelze zcela ochránit

Úplnou prevenci nelze přenést na potenciální oběť. Ani omezení viditelnosti profilu nezaručí, že fotografii nezíská někdo z okruhu sledujících, spolužáků nebo kolegů. Požadavek, aby lidé přestali zveřejňovat vlastní podobu, by navíc nespravedlivě přesouval odpovědnost z pachatele na člověka, jehož identita byla zneužita.

Smysl však má zkontrolovat nastavení soukromí, omezit veřejnou dostupnost fotografií ve vysokém rozlišení a zvážit, komu jsou určena alba s dětmi. Rodiče by měli s dospívajícími otevřeně mluvit také o tom, že vytvoření falešného intimního snímku spolužačky nebo spolužáka není nevinný vtip ani běžná práce s fotografií.

„Technologie se vyvíjejí rychleji než schopnost společnosti reagovat. Vedle právní ochrany proto potřebujeme především prevenci a vzdělávání. Mladí lidé musí vědět, že vytvoření nebo přeposílání falešného intimního obsahu představuje závažný zásah do bezpečí a důstojnosti konkrétního člověka,“ upozorňuje Eliška Poledníčková z Konsent, která je partnerem projektu Vuch Lady, který se letos zaměřuje právě na téma prevence sexuálního či domácího násilí.

První krok: uložit důkazy, nikoliv samotný problém skrývat

Pokud člověk zjistí, že někdo vytvořil nebo šíří falešný intimní materiál s jeho podobou, měl by nejprve zachovat dostupné důkazy. Pomoci mohou snímky obrazovky, odkazy na konkrétní příspěvky, názvy profilů, datum zveřejnění i záznam komunikace s pachatelem. Následně je vhodné požádat provozovatele platformy o odstranění obsahu a podle závažnosti situace vyhledat právní pomoc nebo se obrátit na policii.

Od 1. ledna 2026 český trestní zákoník obsahuje trestný čin zneužití identity k výrobě pornografie a jejímu šíření. Konkrétní právní posouzení však vždy závisí na okolnostech případu. Evropský AI Act vedle toho zavádí povinnost označovat deepfake obsah jako uměle vytvořený nebo zmanipulovaný, nejde však o univerzální nástroj, který by sám o sobě zabránil jeho zneužívání.

„Umělá inteligence přináší obrovské možnosti, ale současně usnadňuje jednání, které ještě nedávno vyžadovalo výrazné technické schopnosti. Základní pravidlo přitom zůstává stejné: podobu ani soukromí druhého člověka nemáme právo využívat bez jeho souhlasu. Platí to v osobních vztazích, ve škole, v práci i na internetu,“ dodává Martin Kůs z Vuch.