Jak podvodníci loví své oběti pomocí AI?
Díky umělé inteligenci dokážou podvodníci vést desítky či stovky personalizovaných konverzací najednou, a to s minimálním úsilím. Snadno tak překonávají jazykové bariéry a vytvářejí falešné, ale velmi věrohodné identity.
K tomu jim slouží generativní AI chatboti, kteří dokonale napodobují lidskou konverzaci, a deepfake technologie, pomocí níž tvoří falešné fotky i videa pro své profily.
Na sociálních sítích a seznamkách pak nasazují automatizované softwarové moduly, které masově oslovují potenciální oběti. Díky těmto nástrojům působí mnohem přesvědčivěji, efektivněji manipulují s emocemi a snáze si získávají důvěru, která jim nakonec otevře cestu k citlivým údajům nebo financím zmanipulovaného uživatele.
Mohlo by vás zajímat
Hackeři zneužívají AI chatboty k vydírání: částky přesahují půl milionu dolarů
Tak například chatbot Claude s umělou inteligencí, vyvinutý společností Anthropic, byl již použit k cílenému proniknutí do sítí, stažení a analýze cenných dat. Podle společnosti útočníci používají tento software k psaní „psychologicky cílených“ vyděračských zpráv a vyhrožují obětem zveřejněním ukradených informací – v některých případech požadovali výkupné více než 500 000 dolarů.
V obsáhlé zprávě Anthropic poukázal i na další případy, kdy byl Claude zneužíván k trestné činnosti. Jedním z nich byla kauza údajných programátorů ze Severní Koreje. Podvodně si v amerických společnostech sehnali práci z domova, jejich cílem ovšem bylo generovat finanční prostředky pro vládu. To se jim povedlo i navzdory nedostatečným znalostem v oblasti vývoje softwaru. Umělou inteligenci využívali jak ke komunikaci, tak k plnění svých úkolů.
Mohlo by vás zajímat
Chytřejší podvody a nové taktiky
Kybernetičtí zločinci také zneužívají Claude k vývoji podvodných scénářů, které poté nabízejí na internetu k prodeji. Podle zástupců Anthropicu se jedná o automatické konverzační moduly, které jsou určeny pro online chatovací platformy. Jejich pomocí se dají páchat vztahové podvody, předstírající citový zájem, které ovšem často vyústí do finančních manipulací. Technologie je toho schopna s dávkou vysokých emocí a v různých jazycích. Anthropic proti tomu sice zavedl ochranná opatření, nicméně strůjci útoků se je opakovaně snaží obcházet.
Moderní podvodníci už se dávno neomezují jen na seznamky. Své oběti loví masivně také na sociálních sítích, v komunikačních aplikacích, a dokonce i v herních prostředích. Velmi nebezpečnou a rozšířenou taktikou je takzvaný „pig butchering“ (v překladu „výkrm prasete“).
Podvodník nejprve dlouhé měsíce buduje s obětí vztah a snaží se získat hlubokou důvěru. Teprve potom, když si je jistý, přijde s nabídkou „výhodné investice“ nebo naléhavou prosbou o finanční pomoc, často kvůli smyšlené osobní krizi.
Oběti takto přicházejí o obrovské sumy peněz. Stále častěji se také objevují falešné video či audio hovory, při kterých AI klonuje hlas i podobu, takže oběť nemá téměř žádnou šanci podvod odhalit.
Mohlo by vás zajímat
Miliony v sázce a zlomená srdce
Dopady jsou zdrcující. Více než polovina uživatelů, kteří důvěřovali online známosti, přiznává, že čelila nátlaku na zaslání peněz. Čtvrtinu z nich ovšem kontaktoval přímo AI chatbot.
Jen ve Velké Británii přesáhly nahlášené škody z romantických podvodů 99 milionů liber ročně. Ačkoliv se může zdát, že obětmi jsou hlavně starší a osamělí lidé, skutečnost je jiná. Ohroženi jsou často i mladší uživatelé, kteří tráví na digitálních platformách více času a u neznámých online kontaktů jsou náchylnější ke větší důvěře.
Nenechte se napálit
-
1
Základem obrany je obezřetnost a ověřování. Vždy trvejte na živém videohovoru, abyste si potvrdili, že mluvíte se skutečnou osobou.
-
2
Použijte zpětné vyhledávání profilových fotek na internetu – často zjistíte, že byly ukradeny z cizího profilu.
-
3
Zbystřete, pokud se ve vyprávění vašeho protějšku objevují nesrovnalosti nebo pokud na vás začne naléhat s žádostí o peníze, zvláště pokud jste se nikdy osobně nesetkali.
-
4
Prozkoumejte také profil nového kontaktu na sociálních sítích. Nové účty s minimem přátel nebo podezřele nízkou aktivitou jsou varovným signálem.
-
5
Pokud máte pochybnosti, svěřte se přátelům nebo rodině. Pohled zvenčí vám může pomoci odhalit manipulaci, které byste pod vlivem emocí mohli snadno podlehnout.
Mohlo by vás zajímat
Nebezpečí pro statisíce uživatelů privátních seznamek: fotografie mohou uniknout v masovém měřítku
Bezpečnost
Boj s AI podvody: co nás čeká dál?
Odborníci se shodují, že sofistikovanost podvodů s využitím AI v příštích letech dále poroste. Můžeme očekávat ještě vyšší personalizaci útoků a dokonalejší technologie deepfake.
Klíčovým řešením je proto zdravý nadhled v kombinaci se zdravou nedůvěrou, posilování digitální gramotnosti a otevřená diskuse o tom, jak moc jsme v online světě zranitelní.
Zdroj: McAfee, CanIPhish, Trading Standards UK, US Senate Federal Credit Union, Illinois State University News
6 foto
