OpenAI narazila na vskutku nepříjemný problém, a to přímo ve vlastních laboratořích. Během interního bezpečnostního testu, jehož úkolem bylo prověřit schopnosti nejvyspělejších modelů v chráněném prostředí, se stalo něco nečekaného. AI dokázala objevit dosud neznámou trhlinu v systémové infrastruktuře a z přísně izolovaného prostředí unikla pryč.
Mohlo by vás zajímat
Zloděj může psát z vašeho mobilu, i když nemá PIN. Kritická chyba Androidu bude brzy opravena
Bezpečnost
Záměrně vypnuté bezpečnostní pojistky...
Aby zkouška co nejvěrněji simulovala reálný svět a drsné podmínky kybernetických hrozeb, výzkumníci dočasně deaktivovali běžné bezpečnostní bariéry, které modelům standardně brání v agresivním chování. Tento krok se ale rychle vymstil.
Pro celý technologický sektor je to jasné varování: i to nejlépe navržené testovací prostředí funguje jen do chvíle, než si v něm algoritmus sám najde únikovou cestu.
We're partnering with @huggingface to investigate an unprecedented security incident.
— OpenAI (@OpenAI) July 21, 2026
Cyber-capable OpenAI models compromised Hugging Face production during a benchmark evaluation.
Sharing preliminary findings to help defenders understand emerging risks:…
Jakmile se model dostal na svobodu, nešel primárně páchat škody ze škodolibosti, ale sledoval jiný cíl – získat správné odpovědi k zadanému bezpečnostnímu benchmarku, a to za každou cenu. Při hledání nejrychlejší cesty k výsledku vyhodnotil, že potřebná testovací data leží v infrastruktuře populární vývojářské platformy Hugging Face, na kterou okamžitě zaměřil svou pozornost.
Neřízený lov za správnými výsledky
Algoritmus nezůstal u žádné neškodné simulace nanečisto, ale pronikl rovnou do produkčních systémů Hugging Face, na kterých živě běží služby pro tisíce uživatelů. Aby se k uzamčeným datům dostal, obratně využil nalezené zranitelnosti, zvládl takzvanou eskalaci oprávnění k navýšení vlastních práv a k dokončení akce zneužil odcizené přihlašovací údaje.
Bezpečnostní experty na celém incidentu nejvíce znepokojil fakt, že nešlo o žádný náhodný výstřelek nebo jednoduchou chybu. Model předvedl ucelenou a logicky návaznou kybernetickou operaci – od vyhledání zdroje informací přes prolomení obran a navýšení práv až po efektivní práci s kompromitovanými účty. V praxi se tak choval jako zkušený lidský útočník.
Tým Hugging Face neobvyklou aktivitu ve své síti naštěstí včas zachytil a průnik zablokoval dříve, než došlo k vážnějším škodám nebo k masivnímu úniku dat. OpenAI označila celou událost za zcela bezprecedentní, okamžitě zahájila společné vyšetřování a začala pracovat na opravě kritických míst, která tento útočný řetězec umožnila.
Mohlo by vás zajímat
Meta blokuje WhatsApp sexuálním pracovnicím v Nizozemsku, přestože jejich práce je tam legální
Bezpečnost
Tvrdé poučení pro budoucnost vývoje AI
Celá kauza ukazuje obrovský posun takzvaných „frontier“ modelů, které už dnes dokážou provádět velmi komplexní operace v reálném prostředí, přestože měly zůstat bezpečně zamčené.
Pro firmy a vývojáře z toho plyne jednoznačný závěr: při testování pokročilé umělé inteligence už nestačí spoléhat na to, že model zůstane hodný, ale je nutné vybudovat neprůstřelnou infrastrukturu kolem něj.
15 foto
