Nečekaný šok: volající mluví klonovanými hlasy

Chip 06/2025: „Tady policie. Váš synovec způsobil dopravní nehodu, při níž bylo smrtelně zraněno malé dítě.“ Takto začíná obzvláště záludný podvod, tzv. šokové volání. Oběťmi jsou především starší lidé, kteří se snadno nechají vyvést z míry a zneklidnit. Pachatelé jsou dnes již tak zruční, že své podvody nezkoušejí náhodně, ale své oběti si předem dobře vyhlédnou. Znají rodinné vztahy a nechají údajného příbuzného, aby při telefonátu promluvil. Hlas zní klamně skutečně a na oběť vyvíjí další nátlak pláčem, vzlykáním a prosbami o pomoc. Ve skutečnosti však nikdy nedošlo k dopravní nehodě, ani policisté nejsou praví, ani údajní příbuzní – dcera, synovec, vnučka – nebyli nikdy ve vazbě. Cíl je vždy stejný: pachatelé chtějí vylákat peníze. Za tímto účelem přesvědčí své oběti, že se ocitly v nouzové situaci, kterou lze vyřešit pouze okamžitým zaplacením vysoké částky peněz nebo jejich předáním údajným policistům.

Přesvědčivost této verze spočívá v hlase údajného potomka/příbuzného, který je v krajní nouzi. „Ale to byl tvůj hlas!“ hlásí později oběti. Díky umělé inteligenci je to nyní dětská hra. Zločinci při tom používají proces zvaný klonování hlasu.

Klonování hlasu je nejmodernější technologie, která využívá algoritmy a syntézu řeči k vytvoření digitální kopie hlasu konkrétní osoby. K vytvoření hlasového klonu, který dokáže vyslovit jakýkoli text tak, že je téměř k nerozeznání od původního hlasu, jsou zapotřebí hlasová data. Čím více dat je k dispozici a čím lepší je jejich akustická kvalita, tím přesvědčivější je výsledek. Oblasti použití jsou rozmanité. Již nějakou dobu se hlasy umělé inteligence používají pro dabing mezinárodních, většinou anglicky mluvených filmů. Vrcholem je například to, že Humphrey Bogart v klasickém filmu Casablanca může nyní v dabované verzi mluvit i svým vlastním originálním hlasem, a to v němčině, španělštině, francouzštině nebo v jakémkoli jiném požadovaném jazyce.

Jak se proti těmto technikám bránit a jaká protiopatření (také založená na AI) chystají operátoři? A co dělat (nebo spíše nedělat) proto, aby váš hlas nebyl naklonován? Více si o tomto zajímavém tématu přečtete v červnovém Chipu, který je v prodeji od 21.5.

Další témata Chipu 06/2025