Lokální AI místo drahého cloudu. AMD útočí na Nvidii a vyprodaný Apple
Vývojáři AI v současnosti řeší dvě velké otázky. Platit měsíčně tisíce za cloudové služby, nebo neustále posílat citlivá data na cizí servery. Pokud se vážně zabýváte vývojem umělé inteligence, také jste tohle dilema nejspíš řešili.
Společnost AMD proto přichází s vlastním řešením a spouští předobjednávky na minipočítač Ryzen AI Halo za 3999 dolarů (v přepočtu zhruba 86 tisíc korun).
Mohlo by vás zajímat
Tahle malá krabička má jasný cíl. Dokázat, že provozovat složité jazykové modely lokálně přímo na pracovním stole je finančně i prakticky mnohem výhodnější.
Hlavním argumentem pro pořízení jsou ekonomické výpočty, které srovnávají lokální provoz s cloudovými službami. Pokud vývojář denně spotřebuje kolem 6 milionů tokenů, vyjdou ho cloudové nástroje na více než 770 dolarů měsíčně (cca 17 tisíc Kč). Za 3 roky se tyto poplatky nastřádají na více než půl milionu korun.
Vlastní hardware sice představuje vyšší počáteční investici, ale s měsíční spotřebou elektřiny ve výši kolem několika stovek (AMD počítá s 16 dolary) se celkové náklady podle kalkulace výrobce vrátí již za 6 měsíců.
Sázka na miniaturní rozměry navíc reaguje na současnou situaci na trhu. Vývojáři totiž v poslední době hromadně nakupují kompaktní počítače Mac mini od Applu, které používají jako dostupné řešení pro lokální spuštění umělé inteligence.
Výsledkem je, že tyto stroje jsou v obchodech často vyprodané a stávají se předmětem spekulativního přeprodeje. AMD chce toto prázdné místo na trhu zaplnit. Ve svých materiálech se s Applem přímo srovnává a slibuje až o 14 procent vyšší lokální výkon u specifických modelů.
Zdroj: Array
Konkurence pro Nvidii, která zvládne i Windows
Dalším cílem novinky je konkurovat profesionálnímu systému DGX Spark od společnosti Nvidia. AMD nabízí o 700 dolarů nižší cenu a přidává jednu praktickou výhodu.
Zatímco Nvidia striktně vyžaduje operační systém Linux, Ryzen AI Halo bude dostupný ve dvou hardwarově totožných verzích. Vývojáři si tak mohou vybrat mezi Linuxem a předinstalovaným systémem Windows 11 Pro, což pro mnoho z nich znamená snazší nasazení do stávajícího pracovního prostředí.
Z technického hlediska hliníková kostka o rozměrech 149x149 milimetrů nabízí velmi vysoký výkon. Ukrývá 16jádrový procesor AMD Ryzen AI Max+ 395 a grafiku Radeon 8060S.
Klíčem k úspěchu při práci s velkými modely je však 128 gigabajtů rychlé sdílené paměti LPDDR5x. Díky ní dokáže toto zařízení spouštět lokální modely s až 200 miliardami parametrů při celkové spotřebě pouhých 120 wattů. Pro data je připraveno 2TB úložiště.
Mohlo by vás zajímat
Lokální provozování umělé inteligence se tak stává stále lákavější alternativou. V době, kdy se cloudové modely prodražují a vývojáři hledají efektivnější cesty k zisku, představuje nová platforma od AMD silný argument pro odchod z cloudu a návrat k vlastnímu hardwaru přímo na pracovním stole.
Zdroje: PCMag, TechPowerUp
5 foto
