Nejnovější kauza začala zpočátku nevinným vtípkem. „Groku, odstraň plavky z této fotografie,“ znělo zadání uživatelů. Asistent poháněný umělou inteligencí Grok poté začal generovat obsah, který byl určený spíše dospělým uživatelům než osazenstvu celé sociální sítě X. Navíc bez souhlasu vyobrazených osob.
Podobné příkazy se začaly rychle šířit. Některé vyznívaly jako vtípky, jiné ale byly myšlené zcela seriózně.
Mohlo by vás zajímat
Modrá obrazovka smrti ve Windows: Nemusí jít o chybu, ale o maskovaný útok. Ignorujte pokyny
Bezpečnost
Ukázalo se, že ochranné filtry jsou děravé a stačí jen pár slovních pokynů k tomu, aby systém „svlékl“ ženu na fotografii nebo vytvořil explicitní materiál celebrit i běžných uživatelek. Evropští regulátoři i aktivisté tento stav označili za naprosto nepřijatelný a v některých případech přímo za kriminální, zejména pokud se do hledáčku AI dostaly děti.
Podle agentury Bloomberg umělá inteligence Grok vytvořila téměř sedm tisíc obrázků s nahotou za hodinu.
Muskova vize svobody narazila na realitu
Platforma X už v minulém týdnu zareagovala a zavedla určitá omezení, například zpřístupnění těchto funkcí pouze platícím uživatelům. Ale samostatná aplikace Grok, která snímky nesdílí veřejně, stále tuto možnost umožňovala i neplatícím účtům.
Kritika proto neutichla. Pro mnohé jde jen o kosmetickou úpravu, která neřeší podstatu problému, tedy bezpečnost obětí. Důraz Elona Muska na absolutní svobodu projevu se zde střetává s tvrdou realitou. Podle kritiků platforma upřednostňuje technologickou anarchii před základní bezpečností.
Mohlo by vás zajímat
„Je to zdvižený prostředníček všem, kteří volali po moderování platformy,“ uvedla pro britský deník The Guardian expertka na umělou inteligenci Nana Nwachukwu. Dále připomněla, že Musk po nákupu sociální sítě X sáhl k osekání týmů, které zajišťovaly bezpečnost platformy.
Svět hrozí zákazy a tvrdou regulací
O víkendu k zablokování AI asistenta Grok přikročily Indonésie a Malajsie. „Zákaz má ochránit ženy, děti a širokou veřejnost před riziky falešného pornografického obsahu generovaného pomocí technologie umělé inteligence“, prohlásila v sobotu indonéská ministryně pro digitální technologie Meutya Hafidová.
O den později se přidala také Malajsie. Tlak na platformu se stupňuje i v Evropě a USA. Britská vláda naznačila, že pokud nebude zajištěna bezpečnost dětí v online prostoru, tak síť X v zemi zakáže. Podobně ostře reagují rovněž američtí demokratičtí senátoři, kteří volají po odstranění aplikace z obchodů, dokud se situace nevyřeší.
Také francouzští představitelé upozorňují, že současné kroky Muskovy firmy jsou nedostatečné a hrubě porušují evropské standardy, což pro platformu X může znamenat konečnou v rámci celé EU.
České právní vakuum
Ani v Česku není situace ideální, i když z jiného důvodu. Domácí experti upozorňují na to, že technologie se vyvíjejí mnohem rychleji než tuzemské zákony. Právnička Klára Kalibová pro iRozhlas.cz připomněla, že v Česku platí nový trestný čin zneužití identity k výrobě pornografie.
Mohlo by vás zajímat
Jedna z nejnovějších funkcí YouTube nervuje uživatele. Víme, jak snadno vypnout dabing ve videích
Novinky
„Problém fotografií, které momentálně kolují na sociálních sítích a využívají technologie k tomu, že lidi v obvyklých situacích svlékají, spočívá v tom, že nejspíš nesplňují definici pornografického díla,“ uvedla Kalibová. Podle ní se postižení uživatelé mohou bránit využitím ochrany před neoprávněným nakládáním s osobními údaji.
Současné trestní právo má značné potíže efektivně postihnout šíření nekonsensuálního obsahu vytvořeného umělou inteligencí. Grok a jeho kontroverze tak jen nasvítily problém, který právníci a zákonodárci nejspíš budou muset v nejbližší době řešit.
Zdroj: France 24, The Guardian, Kotaku, iRozhlas
6 foto
