Chip 10/2026: Generativní AI, jako jsou modely ChatGPT nebo Gemini, je velmi rozšířená v mnoha profesích, na školách i na univerzitách. Často se jedná o klasické úkoly, jako je shrnutí textů, generování obrázků nebo analýza tabulek v Excelu. Nová třída modelů AI se však již dále specializovala.
V dnešní době dokáže umělá inteligence analyzovat rozsáhlé kódové základny, odhalovat slabá místa, simulovat útoky nebo navrhovat opravy. Jak dobře to funguje, ukazuje například hledání bezpečnostních chyb v prohlížeči, což je obvykle časově náročná záležitost.
Mezi poskytovateli softwaru a útočníky již mnoho let probíhá válka. Jedná se však o nerovný boj: poskytovatelé totiž musí co nejvíce zacelit všechny bezpečnostní mezery, zatímco útočníkům stačí jediná, kterou mohou zneužít. Ačkoli vývojáři již delší dobu využívají automatizované testovací techniky, nefungují tyto metody u všech částí kódu.
I bezpečnostní úřady popisují umělou inteligenci spíše jako katalyzátor pro útočníky. Zatímco zločinci by totiž mohli z nové technologie plně těžit, obránci jsou stále vázáni reálnými postupy, jako je například vícestupňové schvalování oprav či záplat.
Kromě zásadní změny pravidel hry prostřednictvím modelů umělé inteligence, jako je Mythos, které odhalují slabá místa v softwaru, se uvádí další dvě hrozby spojené s umělou inteligencí: AI zásadně mění i sociální inženýrství. Může se jednat o deepfake videohovory nebo napodobování hlasu, ale také o personalizované phishingové kampaně. Kromě toho jsou ohroženy i samotné systémy umělé inteligence, které používají uživatelé. To znamená, že například AI agenti mohou být pomocí důmyslné injekce příkazů (prompt injection) zmanipulováni a uživateli škodit.
Co tento znepokojivý vývoj znamená pro nás jako uživatele? To se dočtete v říjnovém Chipu, který je v prodeji od 16.9.
Koupit časopis Chip
Chip je možné číst v tištěné nebo v digitální podobě na mobilech, tabletech a počítačích.
6 foto