Deepfake je video, zvuk nebo obrázek, kde AI věrohodně napodobí konkrétního člověka — jeho tvář nebo hlas. Ke zneužití dnes stačí pár desítek sekund nahrávky.
Nejčastější škoda v Česku nevzniká u politiků, ale u firem: telefonát „ředitelovým“ hlasem s pokynem poslat peníze. Obrana je organizační, ne technická — smluvené ověření druhým kanálem u každého pokynu k platbě.
Napodobit konkrétní osobu bez jejího souhlasu je zásah do osobnostních práv, u reklamy a podvodu jde o postižitelné jednání. Herci a dabéři si proto souhlas s klonováním hlasu ošetřují smlouvou.
Příklad
Zavolá „jednatel“, žádá rychlou úhradu faktury a nechce nic psát. Správná reakce je zavěsit a zavolat zpět na známé číslo.
Kde na to narazíte
ElevenLabs — Eleven v3 — nejlepší AI hlas, klonování, multijazyčný
HeyGen — AI avatar videa a překlad videí v 175 jazycích
Vodoznak v obsahu od AI — Vodoznak je značka, podle které jde poznat, že obsah vytvořila AI — buď viditelný nápis, nebo neviditelná stopa v obrázku či metadatech..
Osobní údaje v promptu — Co napíšete do chatu, opouští vaši firmu a putuje na servery poskytovatele.