V únoru letošního roku popsala nezisková organizace OpenAI, která je z větší části financována Elonem Muskem, nový jazykový model. Software s názvem GPT-2 byl trénován v tom, jak smysluplně doplňovat texty. Kromě toho umí zodpovědět jednoduché dotazy k zadanému textu. Když ho výzkumníci nakrmí dvěma fiktivními větami, je schopen dále rozvíjet kompletní příběh.
Technicky je za principem softwaru ukrytá tzv. rozdělovací sémantika. Ta vychází z toho, že slova, která se vyskytují v podobném kontextu, také mají podobný význam. Algoritmy založené na rozdělovací sémantice používají strojové učení – počítají, jak často se slova v textu objeví a jaká jiná slova se často vyskytují v jejich okolí. Výsledné modely tak mohou používat takto vyškolené mustry pro doplňování slov, ale také pro to, aby konstruovaly kompletní věty nebo odstavce.
Nástroj GPT-2 dosahuje tak dobrých výsledků, že výzkumníci raději drží zdrojový kód pod zámkem. To vzbudilo velký zájem i určitou vlnu kritiky. Chcete se dozvědět víc? Přečtěte si červencový Chip, v prodeji od 26. 6.
Koupit časopis Chip
Chip je možné číst v tištěné nebo v digitální podobě na mobilech, tabletech a počítačích.
video
6 foto