Rizika umělé inteligence

Chip 11/2025: Z pohledu digitálního světa bylo udělování Nobelových cen v roce 2024 velmi zajímavé: hned dvě ocenění získali výzkumníci v oblasti umělé inteligence, které spojuje zájem o bezpečnost AI, o které hovořili také ve Stockholmu.

Geoffrey Hinton, který získal cenu za fyziku za svůj přínos k vývoji neuronových sítí, řekl: „Existuje dlouhodobá existenční hrozba, která vzniká, když vytváříme digitální bytosti, jež jsou inteligentnější než my sami. Nemáme tušení, zda nad nimi budeme moci udržet kontrolu. Nyní však máme důkazy o tom, že naše bezpečnost není nejvyšší prioritou, pokud tyto bytosti vytvářejí společnosti, které se zaměřují na krátkodobé zisky. Musíme naléhavě zkoumat, jak můžeme zabránit těmto novým bytostem, aby se pokusily převzít kontrolu. Už to není science fiction.“

Demis Hassabis, šéf DeepMind, dceřiné společnosti Googlu zabývající se umělou inteligencí, získal Nobelovu cenu za chemii za předpověď struktur proteinů pomocí umělé inteligence. Ve své „Nobel Prize Lecture“ vysvětlil: „Tak převratná technologie, jako je AGI, vyžaduje maximální opatrnost a prozíravost.“

AGI je zkratka pro Artificial General Intelligence, tedy obecnou umělou inteligenci. Byla by schopná zvládnout jakýkoli intelektuální úkol, který zvládá i člověk. Na rozdíl od specializované AI s jasně vymezeným polem působnosti by se AGI dokázala přizpůsobit novým situacím a řešit jí neznámé problémy. Pokud by se, jak mnoho odborníků očekává, AGI brzy stala realitou, krok k takzvané superinteligenci by možná nebyl už tak velký. AGI by totiž byla v zásadě schopna se sama zdokonalovat. Tato rekurzivní sebeoptimalizace by mohla vést k tomu, že by lidé nad systémem ztratili kontrolu.

Jsou varování těchto významných vědců a řady dalších opravdu vážná? Nebo se jedná o zbytečnou starost? A kdo má vlastně největší zájem na dalším vývoji AGI? Na tyto otázky odpovíme v zajímavém článku v listopadovém Chipu, který je v prodeji od 15.10.

Další témata Chipu 11/2025