Umělá inteligence selhává ve zpravodajství: Téměř polovina odpovědí asistentů je chybná
Mezinárodní studie EBU odhalila prokazatelné nedostatky v prezentaci zpravodajského obsahu, který je zpracováván pomocí asistentů s podporou umělé inteligence.
Výzkumy ukázaly, že až 45 % odpovědí asistenčních systémů vykazuje zásadní problémy, a to bez ohledu na jazyk nebo region, ve kterém jsou používány. Zpráva byla prezentována v rámci akce EBU News Assembly v Neapoli a zahrnuje příspěvky od 22 veřejných mediálních organizací z 18 zemí ve 14 jazycích.
Mohlo by vás zajímat
Systematické nedostatky nástrojů umělé inteligence: ChatGPT a Gemini nevyjímaje
Podle BBC analýza odkryla několik systematických problémů celkem u čtyř předních modelů umělé inteligence, včetně ChatGPT a Gemini. Profesionální novináři porovnali více než 3 000 odpovědí z těchto asistentů a hodnotili je na základě kritérií, jakými jsou přesnost a uvádění zdrojů.
Na pováženou je především zjištění, že u 31 % odpovědí byly odhaleny značné problémy s uvedením zdrojů. 20 % odpovědí obsahovalo velké nepřesnosti, a to včetně nesprávných údajů a zastaralých informací.
Pozoruhodné bylo, že Gemini s 76 % problematických odpovědí – což je více než dvojnásobek oproti ostatním AI asistentům –, dopadlo nejhůře.
Mohlo by vás zajímat
Nelichotivé výsledky budou mít dopad na důvěru veřejnosti
Výsledky výzkumu ukazují, že tyto nepřesnosti při poskytování informací nejsou výjimečné. Naopak, jde o systematický problém, který se projevuje napříč různými jazyky. Podle BBC upozornil Jean Philip De Tender z EBU na to, že podobné zkreslení při zpracování informací může vážně narušit důvěru veřejnosti v média. A jakmile se tato důvěra vytratí, lidé začnou zpochybňovat i pravdivost informací, které nacházejí na internetu.
Výzkumný tým v rámci výzkumu také vyvinul a představil řešení, které by mělo pomoci napravit zjištěné problémy. Jedná se o sadu nástrojů, které slouží pro zachování integrity zpráv, zpracovávaných asistenty s podporou AI. Jejich cílem je zlepšit odpovědi umělé inteligence, ale také posílit mediální gramotnost uživatelů.
Podle BBC je v návaznosti na prezentovaná zjištění nutné přísněji prosazovat stávající zákony, které se týkají informací, a zajistit nepřetržité a nezávislé monitorování asistentů s podporou AI.
Mohlo by vás zajímat
Co byste o Google Gemini měli vědět
-
1
Gemini umožňuje rychlé zodpovězení různých otázek; dokáže shrnout školní informace, kterými mohou být například matematické pojmy. Cílem je pomoci uživatelům rychle a efektivně získávat požadované informace.
-
2
Umělá inteligence dokáže rozpoznat obsah na obrazovce; při vyhledávání míst a památek nabízí doplňující informace.
-
3
Systém umí pomoci například s výběrem specifické restaurace, nebo sestavit přehled míst, která stojí za to navštívit přes víkend. Uživatelé si Gemini mohou propojit se svým účtem Gmail, zadat své osobní preference a ze svého účtu například přistupovat k uloženým údajům o cestování, nebo si na sdílené úložiště ukládat různé výstupy z Gemini.
-
4
Dalším důležitým aspektem Gemini je správa e-mailů. Příchozí zprávy, například důležitá oznámení související s pracovní činností, jsou efektivně shrnuty, a vy tím získáváte rychlejší přehled.
