Redmondská firma zveřejnila zprávu, v níž odhaluje, že v několika případech přistihla kyberzločince při zneužívání služeb umělé inteligence.
Známý americký odborník v oblasti kybernetické bezpečnosti, Bruce Schneier, to ale vidí jinak. Celou věc považuje za důkaz, že Microsoft a OpenAI špehují své uživatele.
Podle informací Microsoftu byly identifikovány různé zločinecké týmy, které zneužívaly jeho služeb a funkcí umělé inteligence od OpenAI. Údajně šlo o skupiny z Číny, Íránu, Ruska a Severní Koreje, z nichž některé mají přímé napojení na vlády příslušných zemí.
Zločinecké aktivity měly zahrnovat vyhledávání špionážních cílů, analýzu satelitů a radarových technologií, a celkové zlepšování hackerských dovedností.
Zpráva Microsoftu informuje: kyberzločinci zneužívají AI pro špionáž a hacking
Informace zveřejněné společností Microsoft jsou zcela konkrétní. Podle Bruce Schneiera mohl Microsoft tyto informace získat pouze špehováním relací chatbotů. Podle bezpečnostního experta to není překvapivé a pravděpodobně to umožňují i podmínky používání nástroje.
Tím, že je uživatelský obsah ve službách umělé inteligence kontrolován, a to i lidmi, se Microsoft nijak netají. Například v případě svého Azure OpenAI společnost hovoří o "monitorování zneužití". K rozpoznání škodlivého obsahu a potenciálního zneužití se zpočátku používají algoritmy a heuristické analýzy, které jej posléze klasifikují podle závažnosti.
Mohlo by vás zajímat
Pokud systémy označí určitá prohlášení uživatelů jako závadná či nežádoucí, mohli by je kontrolovat i oprávnění zaměstnanci společnosti Microsoft. V případech, které se objeví v rámci Evropského hospodářského prostoru, se tito zaměstnanci podle společnosti musí nacházet také v EHP.
V případě porušení pravidel by měli být zákazníci informováni e-mailem. Uživatelé Azure, kteří v rámci služeb pracují s citlivými údaji, mohou rovněž vznést námitku proti sledování zneužití. Dá se udělat prostřednictvím online formuláře.
Zdroj: Microsoft Security Insider, Schneier
