Katastrofický kmotr umělé inteligence
Zkraje dubna vystoupil na americké televizní stanici CBS, kde se vyjádřil o možných rizicích velmi rychle se vyvíjející a zároveň velmi málo regulované umělé inteligence. Jeho slova by se dala označit jako „mírně katastrofická“, na druhou stranu málokdo ví o umělé inteligenci tolik jako on.
V rozhovoru například přirovnal umělou inteligenci k chovu divokých šelem: „Nejlépe se to dá emočně pochopit tak, že jsme jako někdo, kdo má opravdu roztomilé tygří mládě. Pokud si nemůžete být zcela jisti, že vás nebude chtít zabít, až vyroste, měli byste se mít na pozoru.“
Zdroj:
CBS Mornings / YouTube
„Lidé neví, co přijde“
A pak už spustil naplno. Ačkoliv se opakovaně vyhrazuje proti Elonu Muskovi, v jednom s ním musí souhlasit. A sice, že existuje 10–20% šance, že věci vezmou velmi rychlý spád a umělá inteligence se do značné míry „osamostatní“ od lidí, kteří ji provozují a kteří ji navrhli.
„Lidé to ještě nepochopili, nepochopili, co může přijít. […] Podívejte se, jak to bylo před pěti lety a jak je to teď. Vezměte ten rozdíl a podívejte se dopředu. To je prostě děsivé,“ uvedl v rozhovoru na CBS.
Hinton rovněž tvrdí, že velké společnosti by měly vyčlenit minimálně třetinu investic, které jdou na AI, aby vyzkoumaly také bezpečnostní rizika a navrhly podle toho případné bezpečnostní záruky. Volá také po regulaci, ať už na globální úrovni, tak na úrovni jednotlivých států.
Podle něj je totiž alarmující, že velké společnosti typu Meta, X a další chtějí postupně omezit jakoukoliv regulaci. Přitom je pravda, že v současnosti umělá inteligence není nijak zvlášť regulovaná.
Mohlo by vás zajímat
Nobelova cena „za AI“
Aby to ale nezapadlo – i on sám, podobně jako Bill Gates, věří tomu, že umělá inteligence může znatelně ulehčit práci mnoha profesím a v konečném důsledku pomoci. Jen je potřeba k ní přistupovat obezřetně.
Geoffrey Hinton je někdy také přezdíván „kmotr umělé inteligence“. Samotný koncept sice sám nevymyslel, přispěl ale k masivnímu pokroku v tomto odvětví, ze kterého těžíme dodnes. Hinton je známý především díky svému průlomovému výzkumu v oblasti hlubokého a strojového učení v 80. letech minulého století. Vloni získal za svou celoživotní práci Nobelovu cenu za fyziku.
video
