Meta bude hlídat rozhovory teenagerů s AI
Meta oznámila, že rodiče s rodičovským dohledem na Instagramu nově dostanou upozornění, pokud jejich nezletilé dítě v rozhovoru s chatbotem Meta AI zmíní sebevraždu nebo sebepoškozování. Firma zároveň pracuje na tom, aby v případě bezprostředního ohrožení dokázala kontaktovat i záchranné složky.
Rizikové konverzace rozpoznává speciálně vytvořený systém umělé inteligence. Žádné upozornění ale neodchází rodičům automaticky. Každou konverzaci, kterou AI označí jako rizikovou, si nejprve projde člověk a teprve poté se rozhodne, zda rodiče kontaktovat.
Zdroj: Meta
Když je situace nejasná
Meta přiznává, že takové upozornění může být pro rodiče znepokojivé. Pokud si systém není jistý úmysly teenagera, firma se rozhodla raději upozornit zbytečně, než aby riziko podcenila.
Funkce Parent Alerts se spouští u rodičů s rodičovským dohledem na Instagramu ve Spojených státech, Velké Británii, Austrálii a Kanadě. Do konce roku by se měla rozšířit i do dalších zemí. Součástí upozornění budou i doporučené materiály od odborníků o tom, jak s dítětem o sebevraždě mluvit.
Nová funkce rozšiřuje dosavadní ochranu. Rodiče už dnes dostávají upozornění, pokud jejich teenager na Instagramu opakovaně vyhledává výrazy spojené se sebevraždou, a mohou vidět, o jakých tématech se dítě s Meta AI za poslední týden bavilo. Meta také rozšířila přísnější nastavení omezeného obsahu i na chatbota, který navíc už standardně nevede s nezletilými sexuální, romantické nebo s alkoholem spojené konverzace.
Mohlo by vás zajímat
Firma chce v krajních případech volat i záchranáře
Meta buduje systém, který by dokázal kontaktovat záchranné složky v případě bezprostředního rizika sebevraždy, a to bez ohledu na věk uživatele. Podobný postup firma roky používá u příspěvků na Facebooku a Instagramu, kde za poslední rok pomohla zprostředkovat více než 19 tisíc kontaktů se záchrannými složkami po celém světě.
Při úpravě odpovědí chatbota Meta spolupracovala s klinickými odborníky na duševní zdraví dospívajících a se stálými poradními skupinami zaměřenými na duševní pohodu mladistvých uživatelů.
Mohlo by vás zajímat
Jak na to jdou konkurenti
OpenAI loni představila rodičovskou kontrolu s upozorněními a u ChatGPT používá model odhadu věku, který mladším uživatelům zobrazuje omezenější verzi s dodatečnou ochranou. ChatGPT je dostupný od 13 let, uživatelé mezi 13 a 18 lety ale potřebují souhlas rodičů. Anthropic jde jinou cestou. Chatbota Claude nabízí výhradně lidem starším 18 let a podle vlastních slov má systémy, které se snaží odhalovat nezletilé uživatele a jejich účty deaktivovat.
Nová opatření Meta zveřejnila v době zvýšené pozornosti kolem svých AI produktů. Jen týden předtím po kritice z Hollywoodu vypnula funkci Muse Image pro úpravu fotografií pomocí AI. Zároveň čelí žalobě 26 zaměstnanců, kteří tvrdí, že firma při propouštění zhruba desetiny lidí v květnu využívala umělou inteligenci a nepřiměřeně postihovala zaměstnance na dlouhodobé dovolené. Meta obvinění odmítá.
Meta se s dopady svých produktů na duševní zdraví potýká dlouhodobě. Letos ji dvě poroty uznaly vinnou z vytváření návykových platforem a umožňování zneužívání dětí. Nová opatření tak zapadají do širšího trendu, kdy regulátoři čím dál hlasitěji upozorňují na rizika AI chatbotů pro citlivé uživatele.
