Nejmodernější technologie skrývají nečekané mouchy. Právě teď se s nečekaným problémem perou chytré brýle, za kterými stojí společnosti Ray-Ban a Meta. Na švédském magazínu Svenska Dagbladet vyšla obsáhlá reportáž o tom, jak tisíce lidí v keňské metropoli Nairobi sedí u počítačů a bojí se toho, na co se budou muset dívat.
Vystrašení anotátoři
Jedná se o takzvané anotátory, třídiče obsahu, kteří analyzují záběry z chytrých brýlí od Mety. Vyznačují v nich objekty, aby je AI dokázala spolehlivěji rozpoznávat. Správně by měli sledovat jen zcela neškodné záběry, jež lidé nahráli a sdíleli s jasným vědomím toho, že je Meta bude mít k dispozici.
Realita je však zcela jiná a do Keni míří na analýzu velké množství soukromých videí, které majitelé chytrých brýlí pravděpodobně nechtěli sdílet s neznámými lidmi.
Mohlo by vás zajímat
Pracovníci z Keni se děsí toho, kdy zase uvidí někoho jít na záchod nebo kdy dorazí sexuální nahrávka. Lidé také omylem sdílejí videa, v nichž je vidět třeba jejich platební karta, anebo soukromé konverzace nelegálního charakteru.
Zaměstnanci firmy Sara, kterou Meta na tuto práci najímá, promluvili v anonymitě, jelikož se úzkostlivě bojí o svou práci. Kdykoliv někdo v práci vznese námitku nebo je jinak „problematický“, obvykle je prý vyhozen a míří zpátky do slumu.
Meta AI nahrává a posílá záběry do Afriky
Citlivé záběry by se do Keni vůbec neměly dostat, ale bohužel tomu tak není. Meta je dostatečně netřídí a zároveň má problém už při samotném zaznamenávání. Chytré brýle mají klasický manuální režim, kdy člověk vypíná a zapíná nahrávání. Z něj nechtěné záběry zřejmě pocházejí jen málokdy.
Nebezpečný je spíš AI režim, se kterým uživatelé v některých zemích komunikují online a nechávají ho analyzovat, co právě vidí. Tady totiž není jasně specifikováno, jak dlouho je zapnuté nahrávání, takže je větší šance zaznamenat něco, co člověk nahrát nechce.
Mohlo by vás zajímat
Reklamy ve WhatsAppu jsou i v Evropě. Víme, co vás čeká i kolik stojí předplatné bez inzerce
Novinky
Podle pracovníků z Keni je takových momentů spousta a panuje shoda, že kdyby lidé věděli, co všechno jejich brýle nahrávají a posílají k anotátorům, nikdy by chytré brýle nepoužívali. Samotná Meta švédský magazín nasměrovala k podmínkám užívání, kde jsou však ohledně AI režimu jen velmi vágní formulace. K upřesnění se redaktoři nedopracovali.
Kauza tak nejspíš už nemá kam pokračovat, v každém případě je však dobré vědět, že za stále se zlepšujícími AI funkcemi nemusí být úžasná technologie, ale klidně jen tisíce lidí z Keni.
Zdroj: Svenska Dagbladet, 9to5Mac
7 foto
