Kmotr umělé inteligence
Jedním z nejhlasitějších kritiků současného tempa je i Geoffrey Hinton, britsko-kanadský informatik často označovaný jako „kmotr AI“. Právě jeho výzkum neuronových sítí a strojového učení položil základy technologiím, na nichž dnes stojí nástroje jako ChatGPT, Gemini nebo Copilot.
Hinton v rozhovoru pro americkou televizi CBS znovu zopakoval své obavy z nekontrolovaného vývoje umělé inteligence. Podle něj veřejnost stále podceňuje, jak dramaticky se schopnosti AI změnily během několika posledních let.
„Lidé si zatím plně neuvědomují, co může přijít,“ uvedl. Připomněl přitom, že ještě před pěti lety byly současné jazykové modely prakticky nepředstavitelné.
Zdroj:
CBS / YouTube
AI jako tygří mládě
Svou obavu popsal poměrně výmluvným přirovnáním. Vývoj umělé inteligence podle něj připomíná chov tygřího mláděte – zpočátku působí neškodně a roztomile, ale nikdo nemá jistotu, jak se zachová, až výrazně zesílí.
Právě tato nejistota podle Hintona představuje hlavní problém. Nejde jen o dnešní chatboty nebo generátory obrázků, ale o to, kam se technologie posune během dalších pěti až deseti let. Podobně jako někteří další technologičtí lídři, včetně Elona Muska, Hinton připouští, že existuje nenulové riziko scénáře, kdy se vysoce autonomní systémy začnou chovat způsoby, které už lidé nebudou schopni plně kontrolovat.
Regulace nestíhá technologický boom
Hinton dlouhodobě upozorňuje i na nedostatečné investice do bezpečnosti. Velké technologické společnosti podle něj vynakládají obrovské prostředky na vývoj výkonnějších modelů, ale mnohem méně peněz směřuje do výzkumu bezpečnostních mechanismů a prevence zneužití.
Navrhuje proto, aby firmy věnovaly výrazně větší část AI rozpočtů právě na bezpečnostní výzkum. Současně podporuje regulaci na úrovni jednotlivých států i širších mezinárodních institucí. To je zvlášť aktuální i letos, kdy se začínají více řešit praktické dopady evropského nařízení AI Act a zároveň sílí tlak části amerických technologických firem na mírnější regulaci.
Mohlo by vás zajímat
AI může pomáhat, ale ne bez kontroly
Hinton přitom nepatří mezi odpůrce umělé inteligence jako takové. Opakovaně zdůrazňuje, že AI může výrazně pomoci například ve zdravotnictví, vědě nebo automatizaci rutinní práce. Podle něj ale lidstvo vstupuje do období, kdy už nestačí obdivovat technologický pokrok. Stejně důležité je začít řešit i to, jaké mantinely pro AI nastavit, aby se z užitečného nástroje nestal problém, který přeroste svým tvůrcům přes hlavu.
Geoffrey Hinton za svůj celoživotní přínos v oblasti strojového učení loni získal také Nobelovu cenu za fyziku, čímž se jeho hlas v debatě o budoucnosti AI stal ještě viditelnějším.
video
12 foto
