Přejít k hlavnímu obsahu
Bezpečnost

Nebezpečné výsledky ve vyhledávání Google: na toto si dejte obzvlášť pozor – umělá inteligence řádí

Jiří Palyza 17.06.2024
Zdroj: Midjourney (vygenerováno pomocí umělé inteligence)

Vyhledávání Google patří mezi uživateli k nejpoužívanějším nástrojům, pokud potřebují na internetu něco najít. Google na své květnové konferenci I/O představil novou funkci vyhledávání s podporou umělé inteligence. Problém je, že poskytuje nebezpečné a absurdní odpovědi.

Kapitoly článku

Na letošní vývojářské konferenci Google I/O internetová firma představila zásadní inovace svého vyhledávače. Jednou z nových funkcí jsou takzvané "AI Overviews", přehledy generované umělou inteligencí. Tato shrnutí mají za cíl poskytnout rychlý přehled o různých tématech a uživatele u vyhledávání udržet déle.

Místo toho, aby uživatelů pomáhala, se nová funkce spíš dostává na titulky médií. A ne zrovna v lichotivém vyznění. Jakou to má příčinu?

Přehledy, generované umělou inteligencí, přinášejí problémy

Laptop s obrazovkou vyhledávání Google a velkým otazníkem
Jedním z nepříjemných důsledků zapojení umělé inteligence do stručných anotací ve výsledcích vyhledávání je splývání skutečnosti a fikce.
Zdroj: Midjourney (vygenerováno pomocí umělé inteligence)

Na pováženou byly například některé zdravotní rady od AI, které byly nejen zavádějící, ale dokonce i nebezpečné. Uživatelům například doporučovala jíst kameny nebo pít moč. Mezi dalšími příklady se objevovala doporučení jíst pizzu s netoxickým lepidlem, jíst lepidlo nebo nechávat psy v rozpálených autech.

Problém je, že tyto příklady výsledků pocházejí ze satirických zdrojů, případně jistě ne vážně myšlených "rad" a doporučení ze sociálních sítí a diskuzních fór, jako například Redditu.

Zavádějící je skutečnost, že přehledy tvořené AI spojují satirický obsah a příspěvky ze sociálních sítí s ověřenými informacemi. To poté vede ke směsici faktů a nesmyslů, což může představovat velké riziko, zvlášť pokud se jedná o problematiku zdraví.

Výsledky vyhledávání s podporou AI zobrazují nesprávné informace

Pes za oknem auta
Umělá inteligence společnosti Google, která má pomáhat ve výsledcích vyhledávání, navrhuje znepokojující informace a nad některými zůstává rozum stát. Zatímco Midjourney psa v autě alespoň schovala před nepřízní počasí, Google by ho klidně doporučil nechat uvnitř v parném horku.
Zdroj: Midjourney (vygenerováno pomocí umělé inteligence)

Zavedení funkce vyhledávání pomocí umělé inteligence v USA ukázalo další příklady trapných, až znepokojivých chyb. Vyhledávač například tvrdil, že v NBA a NFL hráli psi, a že Barack Obama byl prvním muslimským prezidentem USA.

Dalším alarmujícím příkladem byla rada o extrémních sexuálních praktikách, které mají posilovat imunitní systém, nebo tvrzení, že přítomnost švábů v genitáliích je neškodná. Stejně šokující byla informace, že lékaři doporučují těhotným ženám dvě až tři cigarety denně.

Znepokojivá byla i rada umělé inteligence, zobrazená jako odpověď na dotaz, týkající se řešení zvládání hněvu. Umělá inteligence zde navrhla "vraždu". A dokonce i doporučila vybrat si oběť, kterou nikdo nebude zvlášť postrádat – například bezdomovce.

Google chce reagovat

Zdroj: X / @YoungbloodJoe

Všechny uvedené chyby poukazují na skutečnost, že zavedení vyhledávací funkce s podporou AI bylo zjevně předčasné. Google nyní musí zajistit, aby se výsledky vyhledávání pomocí umělé inteligence zlepšily, a především aby byly založeny na přesných a ověřených informacích.

Do té doby se používání "AI Overviews" pro důležité dotazy, zvlášť týkající se zdraví, důrazně nedoporučuje.

Google je i nadále přesvědčen, že umělá inteligence poskytuje uživatelům "vysoce kvalitní informace". Nicméně podle informací serveru Winfuture společnost nyní na vznesenou kritiku reagovala a vysvětlila, že chyby jsou způsobeny velmi neobvyklými požadavky v dotazech.

Mohlo by vás zajímat

Vývojáři také deaktivovali odpovědi umělé inteligence u některých vyhledávacích dotazů a snaží se systémy zlepšit. Zahrnuje to ale i ruční kontrolu a editaci odpovědí.

Nová funkce "AI Overview" má doplnit klasické vyhledávání Google a zpočátku je k dispozici pouze v USA. Vzhledem k současným problémům není jisté, zda se Google podaří realizovat záměr zavést novinku i v dalších zemích.

Zdroj: Winfuture, X / @YoungbloodJoe


Máte k článku připomínku? Napište nám

Sdílet článek

Mohlo by se vám líbit








Všechny nejnovější zprávy

doporučujeme