Co přesně Meta instaluje na firemní počítače?
Meta začala na počítače svých amerických zaměstnanců instalovat nový sledovací nástroj, který zachytává pohyby myši, klikání a stisky kláves. Interní název programu je Model Capability Initiative, zkráceně MCI. Nástroj běží nad pracovními aplikacemi a webovými stránkami a příležitostně pořizuje snímky obrazovky.
Zaměstnanci se o záměru dozvěděli z interního memoranda. Zveřejnil ho jeden z výzkumníků z oblasti AI v kanálu týmu Meta SuperIntelligence Labs. Zpráva okamžitě vzbudila vlnu nesouhlasu. Je celkem ironické, kam až sahají ambice velkých technologických hráčů v honbě za AI.
Mohlo by vás zajímat
Digitální vandalismus: firma Anthropic zničila miliony knih kvůli trénování své umělé inteligence
Novinky
Proč Meta data sbírá a co s nimi dělá?
Oficiální zdůvodnění se zdá být rozumné. Účelem je zlepšit AI modely společnosti v oblastech, kde mají potíže napodobit způsob, jakým lidé pracují s počítači – například při výběru z rozbalovacích nabídek nebo používání klávesových zkratek.
Data tedy neslouží k hodnocení výkonu zaměstnanců, ale výhradně k trénování AI. Potvrdil to mluvčí Mety a dodal, že jsou zavedena ochranná opatření pro citlivý obsah. Ovšem bez bližšího upřesnění, co tím přesně myslí.
Technický ředitel Mety Andrew Bosworth ve svém samostatném interním dopisu napsal, že Meta výrazně posílí sběr dat v rámci iniciativy přejmenované na Agent Transformation Accelerator (ATA). Také přiblížil vizi, kde agenti primárně vykonávají práci a lidé je pouze řídí, hodnotí a pomáhají jim se zlepšovat.
Jde o ambiciózní plán: AI agenti mají do budoucna zvládat většinu rutinní pracovní agendy. Aby se to povedlo, potřebují se učit od skutečných lidí a zaměstnanci Mety jsou k tomu ideálním zdrojem dat.
Mohlo by vás zajímat
Propouštění a AI: Dvě strany jedné mince
Celý kontext je o to výraznější, že Meta zároveň oznamuje masivní propouštění. Firma plánuje od 20. května propustit 10 procent svých zaměstnanců po celém světě a zvažuje další rozsáhlé škrty v průběhu roku.
Zaměstnanci jsou tedy v pozici, kdy svými daty trénují AI systémy, které mohou časem nahradit jejich kolegy nebo je samotné. To je zneklidňující paradox, který musel dojít každému, kdo si interní komunikaci přečetl.
Meta interně vyzývá pracovníky, aby AI agenty používali pro kódování a další úkoly, a to i v případě, že je to v krátkodobém horizontu zpomalí. Firma dokonce ruší některé pracovní pozice ve prospěch nového univerzálního titulu „AI builder“.
Mohlo by vás zajímat
Co na to právníci a odborníci na pracovní právo?
Reakce odborníků jsou jednoznačné, zejména pokud jde o aplikaci mimo USA. Nasazení keystroke loggingu (snímání stisků kláves) posouvá sledování bílých límečků na úroveň, která byla dosud vyhrazena například pro řidiče doručovacích služeb, řidiče Uberu a podobně. Evropské právo by takovýto postup zřejmě neumožnilo. Pravděpodobně by šlo o porušení evropského nařízení o ochraně osobních údajů GDPR.
V některých zemích, například v Itálii, je elektronické sledování produktivity zaměstnanců výslovně zakázáno. Zatímco v Německu soudy povolují keystroke logging jen ve výjimečných případech, například při podezření ze závažného trestného činu. V USA federální právo zaměstnavatele v podstatě neomezuje a postačí, pokud zaměstnance o sledování informují.
Mohlo by vás zajímat
Ironie, které si nelze nevšimnout
Meta postavila svůj byznys na sledování uživatelů. Roky těžila informace o svých uživatelích a opakovaně porušovala zákony na ochranu soukromí – například evropské nařízení GDPR. Nyní se ocitla v situaci, kdy její vlastní zaměstnanci zažívají to, co uživatelé Facebooku a Instagramu znají roky: pocit, že každý jejich pohyb někdo sleduje a zaznamenává.
Samotný Zuckerberg přitom propaguje vizi tzv. „personal superintelligence“, tedy AI asistenta, který vám má pomáhat dosahovat cílů, tvořit, prožívat dobrodružství a stávat se lepším člověkem. Otázkou zůstává, zda tato vznešená vize zahrnuje i soukromí na pracovišti.
Meta není jediná. Interní firemní komunikace se stále více stává surovinou pro nový podnikový dodavatelský řetězec. Tuto cestu razí i jiné technologické firmy. Anthropic, OpenAI i Microsoft pracují na AI agentech, kteří mají být schopni ovládat počítač stejně jako člověk. Samostatně klikat, vyplňovat formuláře, posílat e-maily. Aby se to naučili, potřebují data od skutečných uživatelů. A nejdostupnějším zdrojem jsou vlastní zaměstnanci.
Zdroj: Business Insider, itnews, The Register
