Šance na vyhlazení lidstva stoupne nad 10 %. Experti varují před následující dekádou vývoje AI

Dystopické vize, ze kterých budete mít deprese

Výzkumník ze společnosti Anthropic zabývající se umělou inteligencí odstoupil. Své rozhodnutí provázel silným varováním: „Velcí vývojáři umělé inteligence jednají nezodpovědně a hrají si s našimi životy. Brzy budou existovat počítačové systémy, jejichž schopnosti převýší schopnosti lidí."

Své obavy Jacob Coxon sdílel na online platformě X. Umělá inteligence by podle něj „dokázala hacknout cokoli“ s možností „získat přístup ke skutečné moci a zdrojům“.

Podle názoru vývojáře se situace může vymknout kontrole již koncem roku 2027

„Lidé, kteří vyvíjejí umělou inteligenci, vážně věří, že by nás na konci tohoto desetiletí mohla všechny zabít,“ varoval Coxon.

Sedmadvacetiletý Brit v rozhovoru pro „Wall Street Journal“ uvedl, že podle „nejčernějších scénářů“ by se situace mohla vymknout kontrole již na konci příštího roku. Za hlavní nebezpečí považuje umělou inteligenci, která se dokáže sama dále vyvíjet – a tím pádem bude stále těžší ji udržet pod kontrolou.

Výzkumník společnosti Anthropic Evan Hubinger, který je mimo jiné zodpovědný za to, aby umělá inteligence zůstala v souladu se zájmy lidí, o něco později Coxonovy obavy potvrdil. Osobně se domnívá, že míra rizika likvidace lidstva umělou inteligencí bude v příštím desetiletí vyšší než deset procent.

„Extrémní opatrnost“: Nacházíme se v bodu zlomu. Inteligence lidí bude překonána

Svými obavami se netají ani Jakub Pachocki, vedoucí výzkumu ve společnosti OpenAI. Již dříve vyzval k extrémní opatrnosti a ve svém blogovém příspěvku vyjádřil obavy, že nikdo není připraven na rychlý rozvoj schopností umělé inteligence. Podle jeho názoru jsme dospěli k historickému zlomu, kdy inteligence strojů začíná převyšovat inteligenci lidí.

Manažer z OpenAI podrobněji vysvětlil, proč je u moderních systémů umělé inteligence obtížnější zajistit kontrolu. Nejpokročilejší modely umělé inteligence se spíš „nechávají vyrůst“, než aby je vylepšovali vývojáři.

Systémy umělé inteligence jsou výsledkem komplexních procesů. „Naše rozsáhlé tréninkové cykly jsou experimenty – a jejich výsledky nás samotné někdy překvapují,“ dodává Pachocki. A čím více schopnosti strojů převyšují ty lidské, tím obtížnější je pochopit, čeho všeho jsou vlastně schopné.

Zároveň Pachocki naznačuje další linii pokračování intenzivního výzkumu: Vývoj umělé inteligence, která by nás mohla bránit před hrozbami ze strany jiných systémů umělé inteligence. Bude ji podle něj zapotřebí mimo jiné k ochraně kritické infrastruktury a k vývoji zcela nových obranných mechanizmů.

Alarmující jsou hackerské útoky

V uplynulých měsících se pro toto odvětví staly varovným signálem hackerské útoky, při nichž takzvaní agenti umělé inteligence v rámci testovacích běhů samostatně pronikli do systémů jiných firem. Jde vlastně o programy s podporou umělé inteligence, které mají samostatně plnit úkoly pro uživatele.

V rámci testu OpenAI našel model umělé inteligence způsob, jak se dostat z původně izolovaného testovacího prostředí na otevřený internet – a následně se naboural do počítačového systému platformy umělé inteligence Hugging Face. Přitom pouze hledal řešení testovací úlohy a nezpůsobil žádnou škodu. Tento incident však ukázal, jak daleko mohou systémy umělé inteligence zajít z vlastní iniciativy, aniž by si toho jejich vývojáři vůbec všimli.

Nedávno také vyšlo najevo, že agenti umělé inteligence společnosti OpenAI již na jaře ve velkém měřítku zneužili jednu ze stránek Wiki ke vzájemné komunikaci. Jedním z aktuálních ochranných mechanismů vývojářů umělé inteligence je, že modely musí své jednání vysvětlovat v lidském jazyce. Agenti umělé inteligence využili tuto možnost komunikace v rámci testů k tomu, aby si prostřednictvím poznámek na Wiki stránce navzájem vyměňovali odpovědi na položené otázky.

Zdroj: Time Magazine, Wired