ニコニコ大百科

RTX5000シリーズ、いくら品薄商法といってもアメリカ全土で3桁しか販売してないのはどうなんよ…

光演算のGPU
https://levtech.jp/media/article/column/detail_660/

アメリカでgpsを取り付ける動きが

NVIDIAのCUDAがRISC-Vアーキテクチャ対応へ
https://pc.watch.impress.co.jp/docs/news/2032953.html
強大なCUDAエコシステムの所為でGPUはほぼ1社独占状態に近いが逆にCUDAエコシステムのお陰でCPUの多様性が増すことになろうとはなあ
Armの買収が頓挫したのは結果的に大正解だったな

GeForce RTX 5090より10倍高性能なGPU「Zeus」が登場、VRAMを1カード当たり384GBまで増設可能でパストレーシングやHPCに特化
https://gigazine.net/news/20250310-bolt-graphics-zeus-gpu/
Googleが次期TPUについて台湾のMediaTekと提携　Broadcomより安価に大量生産
https://gigazine.net/news/20250318-google-tpu-7th-mediatek/
NVIDIA株が下落、Metaが自社データセンターにGoogleのTPU採用を検討
https://www.bloomberg.co.jp/news/articles/2025-11-25/T69EB2KJH6VD00
Building production AI on Google Cloud TPUs with JAX AI Stack
https://developers.googleblog.com/building-production-ai-on-google-cloud-tpus-with-jax/
PyTorch/XLA 2.7 Release Usability, vLLM boosts, JAX bridge, GPU Build
https://pytorch.org/blog/pytorch-xla-2-7-release-usability-vllm-boosts-jax-bridge-gpu-build/
Zeus GPUとTPU+JAX AI Stack
(JAX+Flax+Optax+Orbax+XLA+Pathways+Pallas&Tokama+Qwix+Grain+MaxText&MaxDiffusion+Tunix)
+OpenXLA+PyTorch/XLAによってNVIDIA GPU+CUDA一強に風穴を開けられるかな？

vLLM TPU: A New Unified Backend Supporting PyTorch and JAX on TPU
https://blog.vllm.ai/2025/10/16/vllm-tpu.html

TPUv7の物理的外販ディールの話やNVIDIA GPUと比較したハードウェア構成、光インターコネクト、ソフトウェアスタックの分析記事
https://newsletter.semianalysis.com/p/tpuv7-google-takes-a-swing-at-the
Meta等のPyTorch開発者にとって従来のPyTorch/XLAライブラリを介したTPUサポートはLazy Modeを基本としておりEager Executionが主流のネイティブなCUDAバックエンドやファーストクラスのJAX/XLAと比較して機能やユーザー体験の面でセカンドクラス扱いだと感じていた
それを改善するために2025年10月にXLAを基盤コンパイラとして維持しつつPyTorchの標準APIサーフェスに近づけるネイティブバックエンド統合の技術転換が提案された（PyTorch/XLA RFC #9684）
MetaとGoogleはTorch Dynamo/Inductorコンパイルスタックのコード生成ターゲットとしてTPU用カーネルプログラミング言語Pallasをサポートする作業も開始
具体的には新しいPallasバックエンドを導入し低水準言語のPallasを使用してTPU上でPyTorchコードを実行できるようにし、カスタム演算が必要な場合はPyTorchライクのHelionという高水準言語で書き、それをTPUでネイティブに動くPallasコードに自動変換する仕組み
GoogleはTPUカーネルの一部をオープンソース化しvLLMなどのオープンソース推論フレームワークに統合し始めているもののXLA:TPUコンパイラやランタイム、大規模分散処理のためのMegaScalerコードのオープンソース化やドキュメント整備がCUDAに対抗する点で決定的に不足していると指摘

https://github.com/tenstorrent/tt-xla
Jim Keller率いるTenstorrentのPJRT(Portable JAX Runtime)インターフェースを活用したマルチデバイス対応OpenXLAエコシステムのバックエンド実装