Písmo Decoy Font ukáže člověku a AI jinou zprávu
Umělá inteligence dnes dokáže číst a analyzovat texty i obrázky zveřejněné na internetu. S tím ale roste i potřeba chránit obsah, který lidé nechtějí zpřístupnit ke zpracování pomocí AI. Výzkumník Eric Lu proto vytvořil Decoy Font, speciální písmo, které má umělou inteligenci při čtení zmást. Text zůstává pro člověka čitelný, AI v něm ale může rozpoznat úplně jinou zprávu.
Zdroj: Mixfont
Písmo využívá rozdílu mezi tím, jak obraz vnímá člověk a jak ho analyzuje umělá inteligence. Lu vyšel z principu takzvaných hybridních obrazů, které spojují dva motivy tak, aby se při různém způsobu pozorování zobrazil pokaždé jiný.
Známým příkladem je obrázek Alberta Einsteina, ve kterém při pohledu z větší vzdálenosti uvidíte Marilyn Monroe. Decoy Font pracuje podobně, místo obrazů ale kombinuje dvě různé podoby textu.
Zdroj: Wikimedia Commons / Cmglee
Člověk přečte jednu větu, AI druhou
Písmena se skládají ze dvou vrstev. Tmavé a rozmazané tvary v pozadí tvoří zprávu, kterou má přečíst člověk, zatímco v popředí se nacházejí tenké a ostré obrysy jiných znaků. Lidský zrak se soustředí především na tmavší tvary, AI naopak může za skutečný text považovat ostré obrysy.
Lu například připravil zprávu, ve které člověk přečetl doporučení, aby šel brzy spát. Umělá inteligence místo toho rozpoznala výzvu ke sledování seriálů. Podobně fungovaly i další ukázky s odlišnými zprávami.
Autor písmo testoval na GPT-5.6 Sol a Gemini 3.5 a oba modely se při pokusech nechaly falešnou vrstvou textu zmást. Při vývoji Lu upravoval tloušťku čar, míru rozmazání i mezery mezi znaky a zkoušel také různé barvy. Po experimentech s červenou a modrou nakonec zvolil odstíny šedé.
Mohlo by vás zajímat
AI dokáže písmo za určitých podmínek rozluštit
Decoy Font lze použít přímo na webu Mixfont nebo stáhnout do počítače jako běžné písmo. Stažená verze má zatím jednu slabinu. Jakmile AI zjistí, že skutečnou zprávu tvoří rozmazaná písmena v pozadí, dokáže si jednotlivé znaky postupně přiřadit a text přečíst.
Autor proto chce systém upravit tak, aby se podoba znaků více měnila a model nemohl pokaždé vycházet ze stejného vzoru. Při testech se také ukázalo, že větší písmo dělá AI při čtení větší potíže. Do budoucna by se podobný způsob matení AI mohl využít také u CAPTCHA testů, které rozlišují skutečné uživatele od botů.
8 foto
