Některé chaty skutečně čtou lidé
OpenAI má v rámci projektu s názvem Project Lily využívat stovky externích pracovníků, kteří hodnotí skutečné konverzace uživatelů s ChatGPT. Podle zjištění serveru 404 Media dostanou hodnotitelé skutečný dotaz uživatele a následně několik odpovědí ChatGPT. Nejprve shrnou, co uživatel požaduje, a potom označují povedené a problematické části jednotlivých odpovědí.
Sledují například jejich srozumitelnost, tón nebo to, zda ChatGPT skutečně odpovídá na položenou otázku. Všímají si také přehnaného lichocení nebo případů, kdy model vystupuje, jako by měl vlastní lidské zkušenosti.
Mohlo by vás zajímat
Anonymizace nemusí zachytit všechno
OpenAI se snaží z konverzací před jejich předáním hodnotitelům odstranit osobní údaje. Používá k tomu automatický filtr, který ale podle samotné společnosti může udělat chybu. Citlivé informace tak mohou v textu zůstat, například pokud filtr nerozpozná neobvyklý identifikátor nebo nejednoznačný osobní údaj.
Hodnotitelé nevidí uživatelské jméno, v některých případech ale dostanou také souhrn informací, které si ChatGPT o uživateli pamatuje. Ten může obsahovat například předchozí témata konverzací, přibližnou polohu nebo další osobní kontext. Neznamená to však, že zaměstnanci procházejí všechny konverzace. K lidskému hodnocení se dostává pouze jejich část.
Zdroj: ChatGPT
Používání konverzací můžete vypnout
Pokud máte osobní účet a nechcete své nové konverzace poskytovat ke zlepšování modelů, stačí změnit jedno nastavení. V ChatGPT otevřete Nastavení → Ovládací prvky pro data a vypněte možnost Vylepšovat model pro každého. U osobních účtů je používání konverzací ke zlepšování modelů standardně povolené, takže změnu musí provést sám uživatel.
Vypnutí se vztahuje na nové konverzace a nefunguje zpětně. Starší chaty tím zároveň nezmizí z historie. Pokud je chcete odstranit, musíte je smazat samostatně. OpenAI uvádí, že smazané konverzace odstraní ze svých systémů do 30 dnů, pokud už nebyly anonymizované a oddělené od účtu v rámci používání obsahu ke zlepšování modelů.
