Mezi Teslou a xAI stály aspirace Elona Muska v oblasti umělé inteligence v tomto roce asi 10 miliard dolarů na zprovoznění školicích a výpočetních schopností online. podle čtvrtečního příspěvku na X (dříve Twitter) od investora Tesly Sawyera Merritta.
„Tesla již nasadila a trénuje s předstihem na clusteru Nvidia H100 s 29 000 jednotkami v Giga Texas – a do konce října bude mít kapacitu 50 000 H100 a do prosince ekvivalentní kapacitu ~85 000 H100,“ poznamenal Merritt.
Doporučená videa
Do konce tohoto roku společnosti Elona Muska (Tesla & xAI) jen v roce 2024 zprovozní online tréninkovou výpočetní kapacitu v hodnotě zhruba 10 miliard dolarů.
Tesla již nasadila a trénuje s předstihem na clusteru Nvidia H100 s kapacitou 29 000 jednotek v Giga Texas – a bude mít… pic.twitter.com/UgvmsBLuQp
— Sawyer Merritt (@SawyerMerritt) 29. října 2024
Tesla také v srpnu odhalila svůj cluster Cortex AI, který bude využit k trénování firemního systému Full Self-Driving a využívá 50 000 GPU Nvidia H100 spolu s dalšími 20 000 čipy Dojo AI vyvinutými samotnou Teslou. Superpočítač Colossus, který Tesla představila v září, využívá právě tolik GPU H100 jako Memphis a v nadcházejících měsících se plánuje rozšířit o dalších 50 000 H100 a 50 000 H200 GPU.
Na druhou stranu xAI začala montovat svůj superpočítač Memphis v červenci ve své Gigafactory of Compute, která se nachází ve starém výrobním závodě Electrolux v Memphisu, Tennessee. Musk tvrdí, že Memphis je „nejvýkonnější cvičný cluster AI na světě“, protože běží na 100 000 GPU Nvidia H100. Musk slíbil, že tuto kapacitu zdvojnásobí v krátkém pořadí. Přišel online v září a od té doby má za úkol do prosince tohoto roku vybudovat „nejvýkonnější umělou inteligenci na světě podle každé metriky“ – pravděpodobně, Grok 3. xAI však nezveřejnila, kolik stála stavba Memphisu Tomův hardware odhaduje, že společnost utratila minimálně 2 miliardy dolarů jen za GPU.
Částka 10 miliard dolarů je ve skutečnosti polovina toho, co v dubnu Musk tvrdil, že Tesla letos utratí za výpočetní kapacitu AI. „Tesla letos utratí kolem 10 miliard dolarů na kombinované školení a inferenci AI, přičemž AI je primárně v automobilech,“ v té době zveřejnil. „Žádná společnost, která neutrácí na této úrovni a činí tak efektivně, nemůže konkurovat.“
Podle tohoto měřítka Muskovo úsilí o umělou inteligenci již zaostává za svými rivaly, jako jsou Microsoft, OpenAI a Google. V červenci např. odhadují analytici že OpenAI by utratilo kolem 7 miliard dolarů za výpočetní techniku AI, zatímco by ztratilo asi 5 miliard dolarů na ostatních provozních nákladech. Nicméně společnost oznámila začátkem října že jeho poslední kolo investičního financování dosáhlo celkové výše 6,6 miliardy dolarů při zhodnocení 157 miliard dolarů po získání peněz. „Nové financování nám umožní zdvojnásobit naše vedoucí postavení v hraničním výzkumu umělé inteligence, zvýšit výpočetní kapacitu a pokračovat ve vytváření nástrojů, které pomáhají lidem řešit těžké problémy,“ napsala společnost jeho oznamovací příspěvek.
Podle zprávy agentury Reuters ve čtvrtek Microsoft i Meta volně utrácejí za vybudování svých příslušných výpočetních schopností AI. Microsoft údajně utrácí každé čtvrtletí tolik kapitálu, kolik ročně utrácel před rokem 2020. Společnost také uvádí, že její kapitálové výdaje vzrostly v prvním čtvrtletí roku 2024 o více než 5 % na 20 miliard USD a očekává, že utratí ještě více ve 2. čtvrtletí. Na druhou stranu Meta utratila každé čtvrtletí roku 2024 tolik kapitálu jako ročně do roku 2017.
Pokud jde o Google, to údajně strávil 13 miliard dolarů o kapitálových výdajích ve 3. čtvrtletí 2024což je 63% nárůst oproti stejnému období loňského roku. A co víc, od začátku roku společnost utratila přibližně 38 miliard dolarů do výpočetní infrastruktury, což je 80% skok oproti prvním třem čtvrtletím roku 2024. Najednou se 10 miliard dolarů mezi dvojicí společností a hrstkou projektů zdá téměř kuriózní.