Přejít k hlavnímu obsahu
Novinky

Umělá inteligence jako problém: generátory svlékacích obrázků jsou stále populárnější

Josef Mika 13.12.2023
Zdroj: Pexels/ThisIsEngineering

Takzvané Nudify services, neboli aplikace používající umělou inteligenci ke svlékání (především) žen na obrázcích, dosáhly na podzim nového maxima v počtu uživatelů. Na to nyní reagují sociální služby.

Počet uživatelů služeb Nudify dosáhl letos v září celosvětově nového maxima: 24 milionů uživatelů.

Podle časopisu Time souvisí tento nárůst se zpřístupněním pokročilých difuzních modelů, které dokážou generovat realistické falešné snímky nahých lidí. Postižení si toho většinou ani nejsou vědomi.

Tyto nástroje umělé inteligence, které jsou zpočátku k dispozici zdarma, otevírají nové obchodní příležitosti. Jejich produkty jsou označovány také jako syntetické intimní snímky bez souhlasu. (synthetic non-consensual intimate imagery – NCII). Manipulují s existujícími fotografiemi a videozáznamy skutečných osob tak, aby ty pak vypadaly jako nahé. A to samozřejmě bez jejich souhlasu.

Pro jejich provozovatele jsou potenciálním zdrojem budoucích velkých příjmů. Po testovací fázi tyto služby zcela jistě zpoplatní.

Počet odkazů na svlékací služby výrazně roste

Žena vs. AI
TikTok a Meta na situaci reagují omezením generátorů nahých snímků s umělou inteligencí.
Zdroj: Midjoureny (vygenerováno pomocí AI)

Mnoho Nudify services se při propagaci svých aplikací a webových stránek spoléhá na tradiční online marketing prostřednictvím platforem, jako je Reddit, a samozřejmě na sociální média. Od ledna 2023 se počet odkazů propagujících tyto služby na sociálních sítích zvýšil o 2 000 procent, uvádí server Graphika, který identifikoval a sleduje 34 těchto služeb.

Tyto aplikace jsou součástí znepokojivého trendu, kdy se díky pokroku v oblasti umělé inteligence vyvíjí a pomáhá šířit deep fake pornografii.

Mohlo by vás zajímat

V USA v současné době neexistuje jasná regulace pro aplikace založené na umělé inteligenci, které vytvářejí snímky nahých lidí bez povolení. Přesto na vznikající problém největší platformy už zareagovaly: TikTok zablokoval vyhledávání pojmů Nudify a také Meta začala omezovat některé související vyhledávací výrazy.

Přesto je vcelku jasné, že rostoucí význam a dostupnost těchto služeb s velkou pravděpodobností povede k dalším případům poškozování práv na internetu, jako je vytváření a šíření nepovolených nahých snímků, cílené kampaně obtěžování nebo vytváření materiálů týkajících se sexuálního zneužívání dětí.

Zdroj: Time, Graphika


Máte k článku připomínku? Napište nám

Sdílet článek

Mohlo by se vám líbit








Všechny nejnovější zprávy

doporučujeme


články odjinud