Běžný den se může velmi rychle proměnit ve zmatek, pokud za vás začnou jednat moderní technologie bez dozoru. Své o tom ví YouTuber Matt Robb, který se rozhodl prodat klávesnici přes Facebook Marketplace. Chtěl si ušetřit čas, a tak svěřil komunikaci s případnými zájemci umělé inteligenci Muse od společnosti Meta. Následný vývoj situace ovšem nabral směr, jaký majitel inzerátu rozhodně neplánoval.
Příliš horlivý a samostatný pomocník
Místo běžného vyjednávání vzal digitální asistent situaci pevně do svých rukou. Podle tvůrcových slov systém zcela automaticky přijal cenově velmi nevýhodnou nabídku od jednoho ze zájemců. Iniciativa softwaru tím ovšem neskončila, jelikož kupci následně odeslal i přesnou adresu pro vyzvednutí zboží.
O transakci tak bylo rozhodnuto dříve, než si toho prodejce všiml, což vedlo k tomu, že u jeho dveří zničehonic zazvonil cizí muž připravený k obchodu. Jelikož ale k reálné dohodě nedošlo, kupec odešel s prázdnou a udělil prodejci negativní hodnocení.
David from the Muse team here. I responded to Matt on Threads and sent him a couple of DMs offering to help and look into what happened.
— David Singleton (@dps) September 28, 2026
In the past, when we’ve worked with users to investigate similar reports, we’ve consistently learned that Muse was following direct… https://t.co/eyHxM40vX6
O celém zmateném incidentu informoval Matt na sociální síti Threads, což neuniklo pozornosti zástupců technologické firmy. David Singleton z oddělení Meta Superintelligence Labs na situaci veřejně reagoval a nabídl prošetření celého případu. Zmínil také, že při dřívějších zkoumáních podobných hlášení se vždy ukázalo, že systém pouze následoval přímé instrukce a řádně si vyžádal potřebná povolení od samotného uživatele.
Zrádné nastavení trvalého povolení
Následná veřejná komunikace skutečně ukázala, kde přesně se stala chyba. Youtuber při úvodním nastavování zvolil možnost trvalého povolení pro správu zpráv. Očekával totiž, že se ho asistent před finálním odsouhlasením nabídky ještě doptá na svolení. Místo toho zvolené nastavení umožnilo systému odesílat zprávy podle předpřipravené šablony, která obsahovala právě i citlivé místo osobního předání.
Aby se podobným zmatkům v budoucnu předešlo, navrhl tvůrce zavést u automatických zpráv speciální textové označení, díky němuž by kupující hned věděl, že si nepíše s člověkem.
Mohlo by vás zajímat
Usmíření a další technologická rizika
Navzdory nepříjemnému začátku měl celý příběh s klávesnicí pozitivní dohru, jelikož si prodávající situaci s původním zájemcem vysvětlil a ten se později vrátil zakoupit jiný předmět. Nejde však o první případ, kdy automatizované systémy jednaly problematicky. V nedávné době například umělá inteligence zneužila rezervační systém posilovny a zrušila termín jinému členovi, aby svého majitele posunula výše na čekací listině. Meta navíc v minulosti řešila i problémy s hackery, kteří manipulovali se zákaznickou podporou pro získání přístupu k cizím profilům.
Zdroj: Dexerto
