AI čipy Huawei Ascend zatím na Nvidii nemají. Vývojáři modelů hlásí kritické chyby

Vzhledem k tomu, že USA loni výrazně zpřísnily sankce na vývoz čipů Nvidia do Číny, potřeboval čínský trh urychleně zaplnit mezeru. Čímž se de facto rozběhl technologický závod o opanování tohoto klíčového segmentu. Do čela se poměrně záhy dostala společnost Huawei se svými extrémně výkonnými AI čipy Ascend, které měly umožnit místním firmám pokračovat ve vývoji, výuce a aplikaci velkých jazykových modelů (LLM).

Několik zasvěcených osob z oboru, včetně inženýra AI v jedné z partnerských společností, však uvedlo, že čipy Ascend stále výrazně zaostávají za leckterými čipy Nvidie. Na vině jsou podle informací deníku Financial Times (FT) problémy se stabilitou, pomalejším propojením a horším softwarem, respektive výpočetní architekturu, kterou Huawei pojmenoval CANN (Compute Architecture for Neural Networks).  

Tu si můžeme představit jako mozek čipu, protože díky ní lze v podstatě ovládat výkon hardwaru a řídit práci a efektivitu celého procesorem osazeného zařízení. Svou vlastní hardwarovou a softwarovou architekturu má samozřejmě i Nvidia, konkrétně jde o platformu CUDA, která je pro vývojáře obvykle snadno použitelná a dokáže výrazně urychlit zpracování dat.

Konec nadvlády Nvidie? Dravá konkurence nabízí levnější čipy pro umělou inteligenci

Společnosti Nvidia roste konkurence v oblasti vývoje čipů pro umělou inteligenci (AI). Mladé technologické firmy jako je například Cerebras, d-Matrix či Groq se zaměřují na levnější a specializovanější produkty a nabourávají tak dosavadní dominanci amerického giganta.

Společnosti Nvidia roste konkurence v oblasti vývoje čipů pro umělou inteligenci (AI). Mladé technologické firmy jako je například Cerebras, d-Matrix či Groq se zaměřují na levnější a specializovanější produkty a nabourávají tak dosavadní dominanci amerického giganta.

Mezi těmi, kdo si na CANN stěžují, jsou i vlastní zaměstnanci Huawei. Jeden z výzkumníků, který si nepřál být jmenován, uvedl, že kvůli němu je používání produktu Ascend obtížné a nestabilní a práce na jeho testování je ztížena.

„Když se vyskytnou náhodné chyby, je kvůli špatné dokumentaci velmi složité zjistit, odkud pocházejí. Talentovaní vývojáři pak musejí pročítat zdrojový kód, aby zjistili, kde přesně se problém nachází. Jenomže to pak všechnu naši práci dost zpomaluje.“

Financial Times citují dalšího čínského inženýra, který hovoří o situaci ve společnosti Baidu, která také využívá čipy Huawei Ascend. Ty údajně často padají, což komplikuje práci na vývoji a výcviku modelů umělé inteligence.

Výzkumník z Huaweie jeho slova pak potvrzuje a vysvětluje, že k pádům dochází, protože je těžké hardware správně používat. „Špatných výsledků lze dosáhnout vlastně poměrně snadno. Lidé toho totiž o samotném hardwaru mnoho nevědí,“ říká.

Umělá inteligence radí chirurgům při operacích. Startup získal miliardy na rozvoj

Berlínská společnost Caresyntax, která vytváří datovou platformu pro chirurgii založenou na umělé inteligenci, získala 180 milionů dolarů (zhruba 4,1 miliardy korun) v rozšířené sérii financování C. Do kapitálového a dluhového kola se zapojila více než desítka investorů.

Berlínská společnost Caresyntax, která vytváří datovou platformu pro chirurgii založenou na umělé inteligenci, získala 180 milionů dolarů (zhruba 4,1 miliardy korun) v rozšířené sérii financování C. Do kapitálového a dluhového kola se zapojila více než desítka investorů.

Ačkoliv se Huawei odmítla k informacím FT vyjádřit, snaží se evidentně situaci zachránit a vysílá své inženýry do terénu, aby pomohli zákazníkům, jako jsou například právě Baidu – ale také iFlytek či Tencent – problémy vyřešit přímo na místě.

Mnohé firmy se totiž potýkají i s obtížným přechodem z produktů Nvidie na Huawei a specialisté jim pomáhají i s převodem kódu, jenž byl původně napsaný v CUDA, do CANN. Což přeloženo z „ajťáčtiny“ do češtiny znamená, že Huawei momentálně pomáhá svým zákazníkům k tomu, aby k práci na velkých jazykových modelech mohli bez problémů používat čipy Ascend. A mohli tak konečně plně nahradit čipy Nvidie. 

O což se mimochodem čínský gigant i nadále intenzivně snaží. Proto v současnosti pracuje na vývoji čipu Ascend 910C, který již začal testovat u různých čínských internetových a telekomunikačních partnerů, aby prověřil jeho celkový potenciál i výkonnostní efektivitu. Dílčí výsledky testů naznačují, že by tento čip měl dokázat velmi dobře konkurovat AI čipu Nvidia H100, který se (spolu s dalšími Nvidia AI čipy) v Číně prodávat nesmí. 

Nvidia vystřídala Apple na pozici druhé nejhodnotnější firmy na světě

Tržní hodnota amerického výrobce čipů Nvidia během včerejšího dne poprvé překročila tři biliony dolarů (zhruba 68 bilionů korun). Společnost tak podle agentury Reuters předstihla americkou technologickou firmu Apple a stala se druhým nejhodnotnějším podnikem na světě. Jedničkou zůstává americký softwarový gigant Microsoft.

Tržní hodnota amerického výrobce čipů Nvidia během včerejšího dne poprvé překročila tři biliony dolarů (zhruba 68 bilionů korun). Společnost tak podle agentury Reuters předstihla americkou technologickou firmu Apple a stala se druhým nejhodnotnějším podnikem na světě. Jedničkou zůstává americký softwarový gigant Microsoft.