Společnost OpenAI se dostala do sporu s celosvětovou matematickou komunitou. Důvodem je způsob, jakým firma prezentuje úspěchy svých AI modelů při řešení složitých teoretických problémů, i to, jak přistupuje k autorství a kreditu lidských vědců.
Komerční zájmy OpenAI a spol. totiž naráží na akademické standardy. Výsledkem jsou nejen zrušená sponzorství a spory o milionové vědecké odměny, ale hlavně zásadní otázka, komu vlastně patří zásluhy za objevy učiněné za pomoci velkých jazykových modelů.
Kdo doopravdy vyřešil 90 let starý problém?
Rozbuškou aktuální krize se stalo oznámení, že systém od OpenAI vyřešil variantu 90 let starého problému v hydrodynamice, který vychází z tzv. Navier–Stokes rovnic a na jehož vyřešení je vypsána odměna ve výši jednoho milionu dolarů. Způsob, jakým společnost výsledek prezentovala, však vyvolal vlnu rozhořčení.
Matematik Tristan Buckmaster z NYU upozornil, že se OpenAI začala o problém zajímat až poté, co se dozvěděla o práci jeho týmu, v němž působil i Levent Alpoge ze společnosti Anthropic. Tristan Buckmaster otevřeně uvedl, že se OpenAI pokusila ovlivnit přisouzení kreditu za řešení.
Sam Altman sice na sociálních sítích reagoval tvrzením, že výzkum probíhal nezávisle a přístupy se liší, akademická obec ale postup OpenAI označila za agresivní a netransparentní. Spor zašel tak daleko, že OpenAI stáhla svou finanční podporu pro matematickou akci na univerzitě Caltech poté, co ze strany vědců zazněla vůči využívání AI ve výzkumu ostrá kritika.
Mohlo by vás zajímat
Jak AI ve skutečnosti generuje matematické důkazy
Velké jazykové modely jako GPT-4, GPT-5 nebo Claude jsou sice primárně trénovány na textových datech, postupně však dostávají speciální trénink na matematických úlohách v benchmarcích typu MATH nebo GSM8K. Samotný jazykový model však není vnitřně založen na deduktivní logice. Pracuje s pravděpodobností a statistickým učením nad obrovským korpusem dat, což přirozeně vedlo k tvorbě sice věrohodně vypadajících, ale chybujících důkazů plných halucinací a neexistujících témat.
Aby byly výsledky použitelné, kombinují OpenAI a další vývojáři velké jazykové modely s takzvanými formálními důkazovými systémy jako Lean, Coq nebo Isabelle a externími řešitelskými systémy. Vzniká tak hybridní proces: model navrhne strukturu důkazu nebo pomocné tvrzení, formální systém jej přepíše do striktního kódového jazyka a verifikátor jej mechanicky zkontroluje.
Pokud verifikátor odhalí chybu, model výstup zpětně opravuje. Tento přístup extrémně urychluje práci při prohledávání stavových prostorů nebo psaní kódů pro mechanickou kontrolu, zároveň však úplně stírá hranici mezi strojovým výpočtem a lidskou tvořivostí.
Zdroj: GPT image
Střet zájmů a stín nelegálních tréninkových dat
Kromě samotného autorství naráží nasazení AI v matematice na pochybnosti o nezávislosti měřících metod i legálnosti samotných tréninkových dat. Příkladem je benchmark FrontierMath, u kterého vyšlo najevo financování ze strany spřízněné organizace Epoch AI spojené s OpenAI, přičemž vývojáři měli k testovacím datům privilegovaný přístup. To zpochybnilo objektivitu testování.
Matematika je navíc překvapivě provázána i se širší právní bitvou, které OpenAI čelí. V rámci hromadné žaloby Authors Guild vs. OpenAI podané u soudu v New Yorku čelí firma obviněním od světově známých autorů jako George R. R. Martin, John Grisham, Jonathan Franzen nebo Jodi Picoult.
Žalobci tvrdí, že vývojáři využívali jejich díla bez souhlasu a čerpali i z takzvaných neoficiálních digitálních knihoven. Obdobným žalobám čelí OpenAI také od globálních vydavatelů v Indii. Pokud soudy pravomocně rozhodnou, že trénink na chráněných datech bez licenční smlouvy porušuje autorská práva, dopadne tento precedens i na modely využívané ve vědeckém a matematickém výzkumu.
Mohlo by vás zajímat
Na jaká rizika si musí vývojáři a vědci dát pozor
Pro odbornou veřejnost, vývojáře i akademiky z tohoto konfliktu vyplývá několik zásadních varování. Spoléhat se na matematické výstupy samotného LLM bez nezávislé formální verifikace představuje velké riziko, zejména v oblastech, kde je absolutní přesnost kritická – například v kryptografii, kybernetické bezpečnosti nebo při simulacích fyzikálních systémů. Generovaný text může působit přesvědčivě, ale bez kontroly v nástrojích typu Lean nebo Coq může obsahovat skrytou fatální chybu.
Stejně tak je nezbytné v publikacích transparentně uvádět, v jaké fázi výzkumu byla AI použita, ať už šlo o formulaci hypotéz, hledání protipříkladů nebo přepis do formálního jazyka. Vzhledem k probíhajícím soudním sporům o autorská práva navíc existuje reálné komerční a právní riziko při využívání výstupů z modelů, jejichž tréninková data nemají zcela čistý právní původ.
Budoucnost vědeckého výzkumu vyžaduje nová pravidla
Spor mezi matematickou komunitou a OpenAI ukazuje, že dalším krokem v rozvoji umělé inteligence nebude pouze navyšování výpočetního výkonu, ale stanovení jasných etických a právních hranic. Matematická komunita trvá na tom, že autorem výzkumu zůstává ten, kdo problém formuluje, správně interpretuje výsledky a nese za ně plnou odpovědnost.
AI je vnímána pouze jako pokročilý nástroj. Pokud mají velcí technologičtí hráči jako OpenAI nebo Microsoft udržet důvěru vědecké obce, budou muset přejít k plné transparentnosti tréninkových dat, respektovat akademický kredit vědců a přestat nahrazovat poctivou vědeckou práci agresivní marketingovou komunikací.
Zdroj: The Guardian, Bloomberg, Times of India
7 foto
