Před několika lety výzkumník umělé inteligence Ben Goertzel založil start-up jménem Webmind. Dal si za cíl vytvořit digitální obraz mysli a uploadovat ho na internet. Tam se podle něj mělo plně rozvinout vědomí a vzniknout bytost, která by byla přinejmenším stejně inteligentní jako člověk. Měla být trénována na datech z internetu. Cílem projektu bylo simulovat lidskou mysl nebo vytvořit software, který by uspěl v Turingově testu – což je nejznámější měřítko, s jehož pomocí určujeme, zda se jedná o skutečnou nebo umělou inteligenci. Díky projektu Webmind nakonec vznikl nástroj pro předpovědi finančních trhů, ale největší sen vývojářů se neuskutečnil. Činnost firmy neskončila úspěchem – majitel v ní spálil několik milionů dolarů, nakonec se musel stáhnout ze sídla na Manhattanu a vyhlásil konkurz.
První pokusy úspěch nepřinesly, avšak úsilí o vývoj obecné umělé inteligence (AGI, Artificial General Intelligence) dnes pokračuje. Vývojáři se snaží přijít na způsob, jak vytvořit dostatečně obecnou umělou inteligenci, která by dokázala univerzálně řešit co možná největší okruh problémů. AGI má podle nich změnit vše: bude umět léčit nemoci, předpovídat počasí nebo zachránit planetu před klimatickou změnou. „Ve věku AGI budeme cestovat ke hvězdám a kolonizovat galaxie,“ říká Demis Hassabis, šéf Google DeepMind, pro MIT Technology Review. Naproti tomu jiní předpovídají, že obecná umělá inteligence způsobí katastrofu. Mezi jinými také Elon Musk, podle něhož příchod AGI s sebou přináší dvacetiprocentní riziko totálního zničení lidstva.
Mohlo by vás zajímat
Černobílé scénáře
Vyvinout AGI si daly za cíl hned tři důležité laboratoře: konkrétně OpenAI, dále Anthropic a Google DeepMind. Kromě toho se na ni zaměřují také nové společnosti, jako jsou Muskova xAI nebo Safe Superintelligence. Generální ředitel společnosti OpenAI Sam Altman uvedl, že usiluje o to, vyvinout „kouzelnou inteligenci v oblacích“, což je označení, které se zjevně odvolává na představu božství. Přichází prý „věk inteligence“, který bude zároveň obdobím nebývalé prosperity. Podle něj máme naději na lepší budoucnost, v níž se podaří ukončit nejhorší černé můry tohoto světa.
Na druhou stranu, podle temných scénářů, které prezentuje výzkumník Eliezer Yudkowsky, bude zázrak, jestli lidstvo příchod AGI vůbec přežije: „Ukáže-li mi někdo způsob, jakým obecná umělá inteligence nepovede ke smrti nás všech, bude to úspěch.“ Oproti Goertzelovi se Yudkowsky domnívá, že pravděpodobnost toho, že vývoj AGI povede ke katastrofě, je velmi vysoká – vyčíslil ji na 99 procent. Vývoj nadlidské superinteligence podle něj zdaleka neskončil.
To vše zároveň může znít jako konspirace. Experti se přou, zda AGI samotná není spíše mýtus, a také o tom, jak ona samotná může ke konspiracím přispět. Faktem zůstává, že s příchodem AGI se virtuální svět stále více odtrhává od reálného. Právě s AGI je spojena hrozba dezinformací, které tato technologie posouvá na novou úroveň. Dokáže zcela automaticky a v reálném čase vytvářet masové, vysoce přesvědčivé a cílené lži, falešná videa či weby, to vše bez lidské pomoci. Systémy AGI dokážou chrlit miliony unikátních lživých zpráv přizpůsobených na míru konkrétním osobnostem. Takzvané deepfakes mohou být reálně rozšířeny pro vytvoření a šíření nepravdivých narativů o AGI a smazat rozdíl mezi pravdou a umělým výtvorem.
Zdroj: Pixabay
· Upraveno AI
Utopie a dystopie
Konspirační teorie se zabývají v první řadě tím, jak odhalit údajně skrytou pravdu. Jejich účinnost spočívá v hledání smyslu v našem chaotickém světě, který jinak vnímáme jako postrádající smysl. Rozšíření takových teorií také pohání vpřed touha po tom, být významnou osobou. „To jsou základní stavební kameny konspiračního myšlení,“ říká Jeremy Cohen, který na McMaster University v Kanadě zkoumá konspirační teorie v technologických kruzích. Někteří komentátoři a kritici přirovnávají část kultury kolem AGI k náboženské víře. Sliby o dokonalé budoucnosti nebo naopak zániku lidstva přitahují extrémní názory. Podle mnohých jde však spíše o přehnaný „hype“, tedy marketingový tlak a nadměrný technologický optimismus – nebo naopak pesimismus.
Protijed od AI
Američané nepřistáli na Měsíci, COVID-19 neexistuje a vlády nám tají, že se mezi námi pohybují mimozemšťané. O konspirační teorie dnes není nouze. AI na první pohled nevypadá jako účinná zbraň proti konspiračním teoriím, protože se s její pomocí dají vyrábět velmi přesvědčivé dezinformace. Tým vedený psychologem Thomasem Costellem z Americké univerzity ve Washingtonu se naopak pokusil nasadit umělou inteligenci proti vyznavačům konspiračních teorií. Costello a jeho tým získali ke spolupráci 2 000 dobrovolníků, kteří věřili alespoň v jednu konspirační teorii. Ty pak nechal krátce konverzovat s umělou inteligencí trénovanou v získávání informací. Dobrovolníci prezentovali svou oblíbenou teorii se všemi svými argumenty, AI potom jejich tvrzení vyvracela argumenty podloženými fakty. „Po absolvování pohovoru klesla důvěra dobrovolníků v konspirační teorii v průměru o 20 %,“ říká Costello. Úspěch „debunkbota“, jak výzkumníci této umělé inteligenci přezdívají, přičítají také skutečnosti, že AI udržela po celou dobu diskuse s konspirátory zdvořilý tón.
Prezentovány jsou fantazie o technologiích, které dokážou to samé, co člověk. Stejně jako mnoho rozšířených konspiračních teorií mají reálné důsledky. Zkreslují náš pohled na výzvy současného technologického boomu. Máme uvěřit tomu, že se vyhneme tvrdé práci, která je nezbytná pro to, abychom zvládli obtížně řešitelné problémy světa, jakými jsou hladomory, nemoci, války, migrace či postupující klimatická změna. Řešení těchto problémů vyžaduje mezinárodní spolupráci, kompromisy a především mnoho peněz. Proč bychom se tím však měli zabývat, když budeme brzy disponovat nadlidskou inteligencí, která za nás všechno převezme? „Vidím v tom paralely s mnoha moderními konspiračními teoriemi a hnutím New Age, které v 70. a 80. letech dosáhlo vrcholu,“ říká Cohen. „Jeho zastánci věřili, že přichází svobodný a prosperující svět a s ním éra spirituálního blahobytu a že tak nastoupí určitý druh hippie utopie.“
Šílené vize
Je zřejmé, že AGI nemusí znamenat konec lidstva. Stejně tak ale není důvod mávnout rukou nad obavami, které vyvolává. Tvrzení, že dostatečně inteligentní umělá inteligence lidstvo určitě vyhubí, zůstává spekulací. Také odborníci se v otázce budoucích rizik výrazně rozcházejí. Možná mnohem větší nebezpečí přichází z méně spektakulární strany – AI už dnes umožňuje vytvářet přesvědčivé texty, fotografie, videa a další obsah ve velkém měřítku. Dezinformace, propaganda a konspirační teorie tak mohou získat nástroj, který je přesvědčivější než kdykoli předtím.
Názory na čas příchodu AGI se různí. Šéf OpenAI Sam Altman předpokládá, že první AGI bude vyvinuta ještě před rokem 2029, zatímco Demis Hassabis mluví o pěti až deseti letech. Jiní ale nesouhlasí. „Je extrémně nepravděpodobné, že AGI přijde během příštích pěti let,“ říká profesor Newyorské univerzity Gary Marcus. „Je to jen marketingový humbuk, když se předstírá opak, zatímco tolik základních problémů AI – jako halucinace a chyby v úsudku – zůstává nevyřešeno.“
Někdejší tvrzení o AGI přitom často byla mimo realitu. Výzkumník Ben Goertzel vypráví o akci v San Franciscu k tématu AI a parapsychologie, které se kdysi zúčastnil: „Přednášející tehdy prezentovali vize mimosmyslového vnímání a všeho možného. A přesně tak to bylo před dvaceti lety s AGI. Dnes tyto představy všichni považují za totálně šílené.“
Zdroj: Pixabay
Největší problém tak nemusí být otázka, zda jednou vznikne superinteligence, která se obrátí proti lidem. Naléhavější je, co s velmi schopnou umělou inteligencí udělají samotní lidé. Využijeme-li ji k přesvědčování, podvodům a výrobě falešné reality, může oslabit důvěru ve společnost dávno předtím, než dosáhne jakékoli hypotetické nadlidské inteligence. Stejně jako u předchozích technologií bude nakonec záležet nejen na tom, co dokáže stroj, ale také na tom, jaká pravidla, pojistky a společenské hodnoty nastaví člověk. Právě v tom může být skutečná zkouška umělé inteligence – nikoli zda dokáže být chytřejší než my, ale zda dokážeme její schopnosti zvládnout.
Zdroj: časopis Chip
21 foto
