Žena chtěla postřílet lidi na úřadu a napsala to do chatbota. Brzy vše zjistila policie a šla konat

Co se stalo na Floridě

Podle zprávy ze zatčení napsala žena z Bonita Springs na Floridě jménem Carli Michelle Heller 26. září do platformy společnosti Anthropic, že chce na úřadu šerifa okresu Lee „vystřílet“ lidi. Následující den měla podle vyšetřovatelů uvést, že si pořídila novou zbraň.

Bezpečnostní systém tyto zápisy zaznamenal a kvůli jejich závažnosti je převzal lidský tým, který je posoudil. Podle zprávy tým došel k závěru, že jde o vážnou hrozbu, a předal informace policii. Policisté ženu identifikovali, navštívili její dům a zadrželi ji. Případ pak převzal detektiv úřadu šerifa.

Šerif Carmine Marceno uvedl, že žena později vysvětlila, že umělou inteligenci používá jako deník. Obviněna je z vyhrožování násilím v písemné podobě podle floridského práva. Soud je naplánovaný na listopad. Platí samozřejmě, že jde zatím jen o obvinění – o vině rozhodne soud.

Proč to může být trestný čin

Floridský zákon řadí takové jednání mezi závažné trestné činy. Podle příslušného paragrafu je zločinem druhého stupně odeslat, zveřejnit nebo předat písemný či elektronický záznam, který vyhrožuje zabitím, zraněním, hromadnou střelbou nebo terorismem. Zákon přitom počítá s tím, že sdělení je vytvořeno tak, aby ho mohl vidět někdo další.

Právě tady může být zajímavý právní spor. Obhajoba se nejspíš zaměří na to, že zápis v soukromé konverzaci s chatbotem je něco jiného než veřejný příspěvek. Jak to soudy posoudí, zatím není jasné. Bývalý agent FBI Richard Kolko to pro místní média shrnul tak, že jde o novou oblast a soudy si k ní teprve hledají cestu.

Jak to vlastně funguje

Anthropic ve svých zveřejněných pravidlech uvádí, že jeho bezpečnostní tým používá detekci a monitoring, aby vynucoval pravidla používání. Ta zakazují využívat produkty k podpoře nebo usnadňování násilí a zastrašování. Ve svých zásadách pro žádosti vlád firma také říká, že informace o uživateli může předat policii v omezených naléhavých situacích, kdy hrozí smrt nebo vážné zranění. 
Z toho plyne několik věcí, které by měl každý uživatel vědět:

• Konverzace s chatbotem nejsou zaručeně soukromé. Systémy je mohou automaticky kontrolovat.
• Vážně vyhodnocené případy mohou projít lidskou kontrolou.
• Firmy mají pravidla, podle kterých mohou data předat úřadům.
• Chatbot není kamarád, ale technologie.
• Uživatelé nejsou nikdy opravdu anonymní.
   

Nejde o žádné tajemství, všechno je napsané v podmínkách. Jenže málokdo je čte a ještě méně lidí si při psaní do chatu uvědomuje, že na druhé straně nesedí jen stroj.

Není to první případ

Florida je v podobných věcech aktivní. Podle serverů, které případ převzaly, policie nedávno zatkla také muže, který zveřejnil obrázek vytvořený umělou inteligencí, na němž byl šerif okresu Lee postřelen.

Širší souvislosti ukazují, že tlak na firmy jde i opačným směrem. Britská Kolumbie podle zpráv žaluje společnost OpenAI a jejího šéfa Sama Altmana. Tvrdí, že firma mohla zabránit hromadné střelbě v kanadské provincii. Střelkyně, osmnáctiletá bývalá žákyně Jesse Van Rootselaar, byla prý dříve označena bezpečnostním týmem OpenAI kvůli konverzacím o střelných zbraních. Policii se ale nikdo neozval, protože rozhovory podle firmy nesplnily hranici pro předání úřadům. V červnu pak žalovala OpenAI a Altmana i Florida. Tvrdí, že ChatGPT přispěl k reálným škodám, včetně střelby na Floridské státní univerzitě v roce 2025.

Obě situace staví firmy do těžké pozice. Když něco nahlásí, kritizují je za vměšování do soukromí. Když nenahlásí nic, hrozí jim žaloby, že mohly tragédii předejít. Pro uživatele z toho vychází jediné: firmy provozující AI mají motivaci raději reagovat než mlčet.

Zdroj: SWFL, Gulf coast news now, Sheriff Carmine Marceno, Techspot