AI silicon beyond the GPU: NVIDIA, AMD, Huawei and custom accelerators, covering architecture, memory bandwidth, supply and what each means for inference cost.
NVIDIA is framing a shift in AI compute demand: from massive one-time training runs to continuous post-training refinement for agents, according to Moomoo — a change that reframes both the hardware market and the NVDA valuation debate covered by Yahoo Finance UK.
General Compute has closed a landmark US$400 million deal that uses inference chips as loan collateral in place of Nvidia GPUs, according to Tech Times. We unpack what it signals for AI hardware financing.
Jensen Huang says Nvidia will be the first customer for HBM4, and one AI memory stock has reportedly secured about 70% of those orders, according to Yahoo Finance and The Motley Fool.
The FBI is reportedly weighing an in-house AI LLM supercomputer built on either Nvidia B300 GPUs or Google TPUs, according to Data Center Dynamics — a rare federal signal on accelerator choice.
OpenAI and Broadcom have jointly unveiled an inference chip optimised for large language models, signalling a decisive move toward vertically integrated AI silicon.
Huawei a transformé ses projets de puces d’IA en une feuille de route désormais dépassée, prévoyant la sortie d’une seule puce par an ; l’entreprise a rendu publics les modèles openPangu 2.0 et s’est engagée à mettre CANN en open source. Nous mettons tout cela en balance avec les contraintes que le discours d’ouverture a omis de mentionner : un plafond de 7 nm chez SMIC, un approvisionnement en HBM développé en interne qui ne peut alimenter que quelques centaines de milliers de puces, et un retard par puce par rapport à NVIDIA que la propre feuille de route de Huawei reconnaît.
Une NPU et un GPU exécutent tous deux des tâches d'IA, mais ils sont conçus pour des missions opposées. Voici ce qui les distingue en 2026, avec les chiffres réels en TOPS et TFLOPS issus des puces actuellement commercialisées.
