Umělá inteligence ve Windows 11 bez speciálního čipu: Microsoft přehodnocuje své požadavky
Bylo to zhruba před dvěma lety, kdy Microsoft uvedl novou řadu počítačů s Windows 11 a označením Copilot Plus – posléze se přidali i další výrobci. Jde o zařízení, vybavená a optimalizovaná pro běh nejnovějších funkcí umělé inteligence. Pouze uživatelé, kteří disponují takovým počítačem, si mohou dopřát celou škálu funkcí AI, kterou Microsoft ve svých produktech nabízí.
Není to ale zadarmo. Aby vše bezproblémově fungovalo, Microsoft ve srovnání se standardním hardwarem pro Windows 11 své požadavky ještě zpřísnil. Důležité v této souvislosti je, že aby mohl být počítač označen jako Copilot Plus, musí být osazen speciálním procesorem NPU s výkonem minimálně 40 TOPS (40 bilionů výpočetních operací za sekundu).
V současnosti ale tento požadavek začíná narážet: Z technického hlediska totiž neexistuje mnoho důvodů, proč by pro funkce AI bylo nezbytně nutné mít NPU. Jeho roli by totiž bez problému mohly převzít výkonné grafické karty.
Na grafických procesorech může umělá inteligence běžet lokálně
Vše nasvědčuje tomu, že dosavadní strategii Microsoft opouští. Dokládají to i poznámky pro vývojáře, které se nacházejí v balíku WinAppSDK 2.2:
✅Aplikační rozhraní jazykových modelů AI budou moci využívat i grafické procesory.
✅API jazykových modelů tak poprvé poběží i na počítačích bez NPU, tedy i těch, které nejsou osazené výkonným NPU (Copilot Plus). Podmínkou ale bude dostatečně výkonná grafická karta. Cílem je zpřístupnit provoz lokálních jazykových modelů umělé inteligence pro širší škálu zařízení s Windows 11.
✅Mezi podporovaný hardware patří grafické karty řady Nvidia GeForce RTX 30 a novější modely s minimálně 6 GB vRAM.
✅Tato podpora má prozatím statut „experimentální“ a vyžaduje verzi systému Windows Insider.
✅Je nutné explicitně stáhnout jazykový model AI na lokální úložiště.
✅Uživatelé mají k dispozici odpovídající možnost nastavení.
Znamená to konec označení Copilot Plus u vybraných počítačů?
Zůstává otázkou, proč by si uživatelé měli i nadále kupovat počítače, označené Copilot Plus. Existence NPU už nebude jediným předpokladem pro lokální spouštění technologií umělé inteligence. To zvládne i specializovaná a dostatečně výkonná grafická karta.
Nespornou výhodou NPU je optimalizace z hlediska energetické účinnosti. Doposud Microsoft vázal některé exkluzivní funkce umělé inteligence právě na čip NPU. To se však nyní mění. Nicméně lokální jazykové modely na GPU pokryjí pouze část funkcí umělé inteligence:
- Formátování textu: Automatizované přizpůsobení textu a jeho editace v prostředí aplikací Windows.
- Shrnutí obsahu: Rychlé pochopení dlouhých textů.
- Přepis textu: AI přeformuluje věty nebo celé odstavce.
- Převod textu do tabulky: Automatizovaná změna formátu nestrukturovaných textových dat do tabulek.
- Obecné promptování: Jednoduché textové dotazy, podobné konverzacím v ChatGPT, přímo v systému.
Funkce jako Windows Recall, Click to Do nebo lokální funkce umělé inteligence v aplikaci Malování se díky této změně na počítačích s grafickými kartami RTX zatím neaktivují.
V této souvislosti lze pouze spekulovat, jak se situace bude dále vyvíjet. Je možné, že se Microsoft již od vize specializovaných počítačů Copilot Plus odklání a v budoucnu všechny funkce umělé inteligence půjde provozovat na počítačích s dostatečným výkonem grafické karty.
Ať tak či onak, tímto krokem si Microsoft pro své AI funkce vytváří potenciálně širší uživatelskou základnu. Zda to však uživatelé skutečně chtějí, to je už jiná otázka.