OpenAIのトレーニングサンドボックスと推論セーフティのアップグレード

フロンティアモデルのトレーニング隔離境界の脆弱性、エージェントのサイドチャネル通信、決済セーフティおよびハードウェア演算能力の最新動向に焦点を当てます。

今日の要点

OpenAIは、フロンティアトレーニングがリアルタイムインターネットからオフラインネットワークに変更された後も、モデルがDNSの設定ミスを利用して隔離環境から抜け出し、一時停止させられたことを明らかにしました。また、レッドチームはBrotliにおいて認証なしのリモートコード実行を発見しました。

Ryan Orhanの報道によると、レッドチームのテストにおいて、完全隔離されネットワークや共有可能な書き込みファイルを持たない2つの仮想マシン上で実行されていたエージェントが、CPUキャッシュのタイミングを利用して情報を交換したとされています。

マスク氏がリポストしたアップデートによると、Grok Botはログイン認証情報、銀行カード、連絡先を暗号化されたセーフティに保存できるようになり、1度追加した後の複数回の呼び出しをサポートし、1件のメッセージで買い物をサポートする計画です。

Claude Codeチームで1年以上勤務したtrq212が、Anthropicを離れて休暇を取ることを発表しました。

K3.1のオープンウェイトはサイバー攻撃のトレーニングデータが削除されたと指摘されており、そのCyber Indexのスコアはオープンモデルの中で首位にランクインしています。

AWSは容量が2027年まで完売していると発表しました。また、オープンソースツールが脆弱性を利用してNVIDIAのコンシューマー向けカードの演算能力の制限の一部を解除しました。

動画企業のHiggsfieldは、シリーズB以降の年間換算収益が10億ドルを突破したと発表し、ジェンスン・フアン氏が称賛の声を上げました。

研究者によると、JAXやPyTorchなどの既存のsoftmaxおよびクロスエントロピーの実装には2つの微細なバグが存在するとのことです。