Umělá inteligence prozradila tajemství, o kterém nikdo neměl vědět. Vývojář řeší záhadný únik informací a Google odmítá vinu

Šlo o nevinnou diskuzi v komunitním hubu na Discordu, ale rychle se z ní vyklubal nemilý okamžik plný překvapení. Uživatelé probírali nezávislou hru Operation Octo. Jde o akční tower defense titul, v němž se hráči brání pomocí věží před hordou nepřátel. 

Jeden z fanoušků během diskuze s ostatními uživateli zkoušel klást v AI vyhledávání otázky na chystaný obsah, když systém najednou vygeneroval přesný název dosud neoznámené postavy: „Vantage Tripod“. Vývojáři z Klub Kofta Studio, který na Operation Octo dělá, v tu chvíli ztuhla krev v žilách. 

Jméno se totiž nenacházelo ve zdrojovém kódu, databázích Steamu a dokonce ani v lokálních souborech hry.

Únik, nebo chybné nastavení dokumentu?

Podle tvůrce existoval tento konkrétní název na celém světě pouze na jediném místě. V rozpracovaném souboru v Google Dokumentech. Vývojář trvá na tom, že dokument nebyl nikde sdílený a neměl k němu mít přístup nikdo cizí. 

Otázka, jak se citlivý údaj dostal do odpovědí Google Gemini, tak okamžitě rozpoutala vážné obavy o bezpečí soukromých dat a způsob, jakým vyhledávače sbírají informace pro své modely umělé inteligence.

Reakce ze strany Googlu na sebe nenechala dlouho čekat. Společnost rázně odmítla, že by její modely skenovaly privátní obsah ve službě Workspace za účelem trénování AI. 

Zároveň ale připustila zásadní háček: pokud se odkaz na dokument objeví kdekoliv na síti a má povolené zobrazení pro každého, vyhledávací boti ho bez váhání indexují. Často tak rozhoduje jediný neopatrný klik v nastavení sdílení.

Proč už Gemini o postavě mlčí

Jakmile se zpráva začala virálně šířit, systém na dotazy najednou začal odpovídat úplně jinak. Dnes už AI při položení stejného dotazu odkazuje pouze na následné veřejné debaty a vyhledat informaci o neveřejné postavě se už nedaří dohledat. 

Podobné algoritmy navíc neustále vysávají data z diskusních fór, Reddit vláken a sociálních sítí, takže stačí jediná zmínka v zapadlém komentáři a AI ji okamžitě zabuduje do svých odpovědí.

Bezpečnost dat pod drobnohledem

Případ Operation Octo slouží jako varování pro všechny nezávislé vývojáře, scenáristy i kreativce. Pravidelná revize přístupových práv na cloudu by měla být absolutní rutinou, zvlášť pokud pracujete s neveřejnými koncepty, smlouvami nebo příběhovými zvraty. Spoléhat na to, že „odkaz nikdo nezná“, je v době agilních vyhledávacích botů obrovské riziko, které se nemusí vyplatit.

Spor, který nemá jasného vítěze

Příběh tak zůstává v patové situaci, kde stojí tvrzení proti tvrzení. Vývojář z Klub Kofta Studio pevně trvá na tom, že jméno postavy bylo zamknuté pod privátním zámkem, zatímco Google kategoricky odmítá narušení soukromí. 

Ať už pravda leží kdekoliv, událost ukázala, jak tenká hranice dnes dělí přísně strážené tajemství od veřejné odpovědi generované umělou inteligencí.

Zdroj: Polygon, Dexerto