OpenAI独自推論チップ「Jalapeño」、速度と電力効率を同時改善

OpenAIは8月25日、初の独自推論チップ「Jalapeño」の初期測定結果を公開しました。言語モデルの推論処理に合わせて、演算、メモリ、ネットワーク、ソフトウェアを一体設計した点が特徴です。

OpenAIによると、GPT-OSS 120B、DeepSeek R1 670B、Kimi K2.5 1Tを使った比較で、ピーク時の電力当たり処理量は1.5～1.9倍、エンドツーエンド遅延は1.7～3.6分の1でした。対話性を重視した条件では、性能が2.1～4.1倍に達したとしています。

応答待ちが積み重なるAIエージェントでは、低遅延と電力効率の両立が運用コストや使い勝手に直結します。OpenAIは年末までに自社計算基盤への導入を始める計画で、今後もNVIDIAなど他社製アクセラレーターと併用する方針です。

出典: OpenAI公式発表

 

コメント

コメントを投稿

このブログの人気の投稿

Faber：コードグラフ活用のコスト効率良いオープンソースAIコーディングエージェント

Show HNで紹介された「Faber」は、コードグラフを活用したコスト効率の高いオープンソースのコーディングエージェントです。リポジトリの構造をグラフとして扱うことで、エージェントの動作を効率化し、トークン消費やツール呼び出しを削減することを目指しています。 このようなツールは、個人開発者や小規模チームがAIエージェントを日常の開発ワークフローに取り入れる際に役立ちます。コードベースの理解を助け、 hallucinations を減らす効果が期待できます。 実務では、大規模なコードベースでのエージェント利用時に特に有用で、開発コストの低減につながる可能性があります。 出典: Show HN: Faber, cost-efficient open-source coding agent that uses code graph
続きを読む

Claudeの電子透かし、仕組みと限界をAnthropicが公表

Anthropicが8月14日、Claudeの生成テキストに埋め込む電子透かしの仕組みを公表しました。Google DeepMindのSynthID-Textを基に、単語を選ぶ際の乱数の生成源を秘密鍵と直前の文脈に置き換え、鍵を持つ側だけが検出できる統計的なパターンを残す方式です。テキストに文字を足さないため、品質や速度、料金には影響しないとしています。 EU AI Actの透明性義務に関する行動規範へ署名したことに伴う対応ですが、適用範囲はEU域内にとどまりません。地域ごとに限定する確実な方法がまだないとして、日本を含む全世界のモデルとプロダクトに及びます。検出には近く提供予定のAPIを使います。 実務で効くのは、透かしが入る場所と入らない場所が明確な点です。単語選択の自由度が低い文章、たとえば数式や答えが一つしかない事実記述には入りません。コードも、別の語を選ぶと動かなくなる箇所には適用せず、コメントのような任意の選択ができる部分に限られます。句読点だけの校正は検出に足りない可能性がある一方、全ての単語をClaudeが選ぶ翻訳には入ります。 限界も明示されています。示せるのはClaudeが関与した可能性までで、書いたのか大幅に編集したのかは区別できません。人間が書いた証明にもならず、短文では精度が落ちます。AI利用の開示が求められる場面では、この範囲を踏まえた運用が要りそうです。 出典: 「Claude」の“見えない透かし”、Anthropicが仕組みを説明 「完全な書き直しなら消える」
続きを読む

AI & Tech Brief — 8 September 2026: Making AI Work Beyond the Lab

Edition: 8 September 2026 (Japan Standard Time) Overview Today's brief looks at three practical constraints on AI adoption: noisy inputs, access to defensive tools, and the efficiency of the infrastructure underneath. The selection combines a research team's 7 September update with two company announcements from the past week. Dates below refer to the original publications; these are not all new announcements today. Key takeaways ARTPARK-IISc describes a multilingual dataset for testing speech systems against real background noise. OpenAI has announced subsidized access and support intended to bring frontier cyber defense to organizations with fewer resources. Microsoft argues that useful outcomes, alongside infrastructure efficiency, should guide the next stage of AI expansion. Top stories 1. Speech AI gets a closer look at everyday noise Published: 7 September 2026. In a technical article, the ARTPARK-IISc team describes the Vaani Noise Event Timestamp Dataset: an...
続きを読む