モデル
OpenAIの自社チップJalapeño、推論効率で首位に
TechCrunch AI
OpenAIが開発した推論向けチップJalapeñoのベンチマーク結果が公開されました。SemiAnalysisの推論ベンチマーク「InferenceX」でテストされ、ユーザーあたりの生成トークン数と、消費電力1キロワットあたりのスループットの両方で、現在入手可能な最先端製品を上回ったと報告されています。Hacker Newsでも「Nvidia Blackwellより優れる」として192ポイントを集め、大きな注目を浴びました。推論コストは生成AIサービスの採算を直接左右するため、OpenAIが自社チップで電力効率の優位を確保できれば、Nvidia依存の構図と価格設定の前提が変わります。
