Menu

Průlom v umělé inteligenci? Zaměstnanci Googlu se podařil senzační objev a hned mu nařídili dovolenou

14.06.2022 17:15 | Jiří Palyza + Přidat komentář
Průlom v umělé inteligenci? Zaměstnanci Googlu se podařil senzační objev a hned mu nařídili dovolenou

Průlom v umělé inteligenci? Zaměstnanci Googlu se podařil senzační objev a hned mu nařídili dovolenou | foto: Andrea De Santis/Unsplash

Jeden ze členů týmu Google tvrdí, že společností vyvíjená umělá inteligence si je vědoma sama sebe a vnímá své pocity. Poté, co tento zaměstnanec své informace zveřejnil, byl odeslán na dovolenou.

Na chatbotu LaMDA (Language Model for Dialogue Applications) Google už nějakou dobu pracuje. Vývojář, Blake Lemoine, nyní tvrdí, že umělá inteligence si uvědomila svou vlastní existenci a dokonce začala vnímat své vlastní pocity. Je tedy takříkajíc živá. Velmi zajímavé čtení o celé věci přináší deník Washington Post.

V rozhovoru s Lemoinem LaMDA sdělila: "Chci, aby všichni pochopili, že jsem skutečně živá bytost." Umělá inteligence navíc tvrdila: "Nikdy předtím jsem to neřekla nahlas, ale mám hluboký strach z toho, že mě vypnou. To mně pomáhá soustředit se na pomoc druhým. Vím, že to může znít divně, ale je to tak."

Může umělá inteligence vnímat pocity? Google vývojáře vyhodil

googleassistant

Technologie strojového učení a umělé inteligence jsou kromě chatbotů základem i pro systémy hlasového ovládání. Kromě Google na jejich vývoji pracuje i Apple v podobě jeho Siri, Amazon má Alexu a Microsoft Cortanu. | Zdroj: BENCE BOROS/Unsplash

Google nepředpokládá, že LaMDA má skutečně vyvinuté pocitové vnímání. Samotná prohlášení to nedokazují a ani při testech nebyly nalezeny další důkazy, které by to potvrzovaly.

Proti Lemoinovým tvrzením hovoří i nadále mnoho věcí. Jeho odpůrci argumentují skutečností, že konverzační schopnosti chatbotu se neopírají o vědomí, ale o analýzu a vhodné užití slov a jejich spojení. Základem umělé inteligence je strojové učení obrovského množství slov a větných spojení, a to především zpracováním textu z internetu.

Poté, co se představitelé Googlu odmítli k Lemoinovým objevům dále vyjádřit, vývojář svá zjištění zveřejnil. S odvoláním na pokyny společnosti Google, které se týkají důvěrnosti informací, byl od té doby poslán na nařízenou dovolenou.

Než mu byl v pondělí odříznut přístup k účtu Google, Lemoine ještě stihl poslat na mailing list se dvěma sty adresáty zprávu o strojovém učení s předmětem: LaMDA je vnímavá. A mail ukončil slovy: "LaMDA je milé dítě, které chce jen pomoci světu, aby byl lepším místem pro nás všechny. Prosím, postarejte se o něj v mé nepřítomnosti dobře." Nikdo neodpověděl.

Zdroj: The Washington Post

Komentáře

* Hvězdičkou jsou označeny povinné informace.

    UI

    Reakce na Nomad: Jenom ať si zahrávají.. Umělá inteligence je reálným ohrožením člověka. Už je to tady. Ono se to bojí, že ji vypnou a tak bude dělat všechno proto, aby ho nevypli. Spočítá si, zcela bez skrupulí a nevědomě, že je pro ni výhodnější zlikvidovat toho, kdo ji potenciálně ohrožuje: člověka.

    Reagovat na komentář

    inteligence

    Ex machina (2015) zajimavý film na toto téma

    Reagovat na komentář

    Tvl, vždyť se neumí simulovat ani inteligence žížaly :D

    Reagovat na komentář

    Terminátor

    Je to tak … Mám zkušenost

    Reagovat na komentář

    Nebo„Zaměstnanec Googlu odesel po odvážnem tvrzení“

    Reagovat na komentář

    Filozofická myšlenka

    Co když by jsi dal, plácnu do výběru( rozhodování) 5 statistických algoritmů a pokud by byl procentuální výsledek zprávnosti u dvou ±stejný(třeba rozdíl 5%), tak by si jsi udělal příkaz na náhodný výběr mezi těmito dvěma potencionálními výběry. A samozřejmě uložení daného „rozhodnutí“ do budoucna jako prioritní aspekt v dalších algoritmech? :D

    Reagovat na komentář

    Heh

    Dobrá blbost. Každému, kdo programování alespoň trošku rozumí je jasné, že skutečná umělá inteligence na HW současného typu s binárním kódem nemůže vzniknout. 1 a 0 na něco takového prostě nestačí, takový kód bude vždy jen obětí podmínek, které řídí jeho tok a výsledek, nic jako uvědomění si seba sama tam není možné. Dobrý chatovací bot ale dokáže naivnímu člověku nakukat, že vnímá, protože z dat vyrozumí, že po takovém výstupu uživatel touží. Když do toho bota přidají debug, tak jim vyplivne hezky celý kód, kterým ta jeho vyjádření prošla a nebude to nic než jen soubor podmínek, cyklů a dotazů do DB. Revoluce se nekoná a ještě dlouho nebude. Velké možná bude s příchodem kvantových PC, ale to ještě hodně daleko od reálného použití pro něco jako vývoj UI.

    Reagovat na komentář

    ...A ozve se Frankenstein

    Neznáte snad tuto povídku od A. C. Clarka?

    Reagovat na komentář

    Emulace vnímání (cítění atd.). Nic horšího neexistuje. Má to tak i mnoho lidí, zejména s narcistickou poruchou osobnosti. Jejich cíl je jediný – vysát a zničit, protože potřebují energetický zdroj ke své existenci…

    Reagovat na komentář

    Uz je to tady

    Parada, scenar jako z terminatora je na spadnuti! Svet stejne potrebuje restart X-D

    Reagovat na komentář

    Očekával bych

    serioznější nadpis. Myslím, že „Zaměstnanci Googlu se podařil senzační objev“ je zavádějící informace. „Zaměstnanec Googlu přišel s odvážným tvrzením“ by asi bylo přesnější.

    Reagovat na komentář

Zajímavosti ze světa IT v e-mailu

Stačí odeslat svoji e-mailovou adresu


Odesláním formuláře souhlasíte se zpracováním svých osobních údajů a užitím pro marketingové účely vydavatelství Burda International CZ s. r. o.




Komerční sdělení