Bizarní a vlastně i dost znepokojivou ukázku představil viceprezident firmy Rohit Prasad. Ten publiku představil příběh dítka, kterému Alexa předčítala před spaním pohádky hlasem nedávno zesnulého prarodiče. Technologie strojového učení prý potřebuje k vytvoření kompletní databáze “umělého hlasu” jen jednu minutu opravdové řeči konkrétní osoby.
“Umělá inteligence sice nemůže odstranit bolest ze ztráty, ale rozhodně může uchovat vzpomínky,” řekl Prasad. Zdali bude v blízké době možné, aby takto zkopírovaný hlas umělou inteligencí i sám vytvářel věty, a ne jen předčítal text (technologie text-to-speech), zatím zastoupení Amazonu nekomentovalo.
Nový deepfake budí strach
Bezpečnostní experti však před touto formou deepfake nástrojů důrazně zdvihají ukazováček. Podle mnohých tato technologie v rukou nepovolaných osob může spustit zcela novou vlnu podvodů, jako jsou například podvodné telefonáty běžným zákazníkům bankovních společností nebo pojišťoven.
V ohrožení jsou ale i velké nadnárodní korporace. Dostatečnou výstrahou budiž aféra z roku 2020 z Hong Kongu. Podvodníci s technologií deepfake hlasu dokázali oklamat manažera banky tím, že se přes telefon vydávali za ředitele této pobočky. Nechali si na vlastní účet převést těžko uvěřitelnou sumu 35 milionů amerických dolarů (skoro 822 milionů korun). K uklidnění veřejnosti, takto sofistikované podvody jsou velmi minimální, kyberzločinci totiž podle všeho nemají k dispozici tak kvalitní nástroje, s jakým se aktuálně vytasil Amazon. I tak ale může chystaná novinka americké firmy vzbudit velký rozruch.
Zdroj: Engadget, TechCrunch, Forbes
video