Přejít k hlavnímu obsahu
Bezpečnost

Microsoft tvrdí, že zločinci zneužívají umělou inteligenci – podle experta je to důkaz, že tak činí firma sama

Jiří Palyza 23.02.2024
Zdroj: Midjourney (vygenerováno pomocí umělé inteligence)

Tak trochu to připomíná známé rčení "zloděj křičí: chyťte zloděje". Microsoft oznámil zneužití služeb umělé inteligence kyberzločinci. Bezpečnostní expert to naopak považuje za důkaz skutečnosti, že sám Microsoft je ten, kdo prostřednictvím AI své uživatele špehuje.

Redmondská firma zveřejnila zprávu, v níž odhaluje, že v několika případech přistihla kyberzločince při zneužívání služeb umělé inteligence.

Známý americký odborník v oblasti kybernetické bezpečnosti, Bruce Schneier, to ale vidí jinak. Celou věc považuje za důkaz, že Microsoft a OpenAI špehují své uživatele.

Podle informací Microsoftu byly identifikovány různé zločinecké týmy, které zneužívaly jeho služeb a funkcí umělé inteligence od OpenAI. Údajně šlo o skupiny z Číny, Íránu, Ruska a Severní Koreje, z nichž některé mají přímé napojení na vlády příslušných zemí.

Zločinecké aktivity měly zahrnovat vyhledávání špionážních cílů, analýzu satelitů a radarových technologií, a celkové zlepšování hackerských dovedností.

Zpráva Microsoftu informuje: kyberzločinci zneužívají AI pro špionáž a hacking

Chatbot copilot ve Windows 11
Skutečnost, že Microsoft a OpenAI sledují využívání umělé inteligence není překvapivá, konstatuje Schneier. Zpráva Microsoftu ji jen potvrzuje.
Zdroj: Windows 11 / Chatbot copilot

Informace zveřejněné společností Microsoft jsou zcela konkrétní. Podle Bruce Schneiera mohl Microsoft tyto informace získat pouze špehováním relací chatbotů. Podle bezpečnostního experta to není překvapivé a pravděpodobně to umožňují i podmínky používání nástroje.

Tím, že je uživatelský obsah ve službách umělé inteligence  kontrolován, a to i lidmi, se Microsoft nijak netají. Například v případě svého Azure OpenAI společnost hovoří o "monitorování zneužití". K rozpoznání škodlivého obsahu a potenciálního zneužití se zpočátku používají algoritmy a heuristické analýzy, které jej posléze klasifikují podle závažnosti.

Mohlo by vás zajímat

Pokud systémy označí určitá prohlášení uživatelů jako závadná či nežádoucí, mohli by je kontrolovat i oprávnění zaměstnanci společnosti Microsoft. V případech, které se objeví v rámci Evropského hospodářského prostoru, se tito zaměstnanci podle společnosti musí nacházet také v EHP.

V případě porušení pravidel by měli být zákazníci informováni e-mailem. Uživatelé Azure, kteří v rámci služeb pracují s citlivými údaji, mohou rovněž vznést námitku proti sledování zneužití. Dá se udělat prostřednictvím online formuláře.

Zdroj: Microsoft Security Insider, Schneier


Máte k článku připomínku? Napište nám

Sdílet článek

Mohlo by se vám líbit








Všechny nejnovější zprávy

doporučujeme


články odjinud