Zichuan Xu

Data Brainは、Personal AI Agentのためのデータ・記憶モジュールです。タスクの内容や機密性、コストに応じて、ローカルAI・クラウドAI・専門エージェントの中から適したAIを選び、必要な記憶だけを渡します。

個人のデータを扱う以上、手元で動く小さなモデルの役割は大きくなります。データを外に出さずに済み、コストも抑えられるからです。ただ、小さな推論モデルには弱点があります。考え始めると同じ文章を繰り返し、答えにたどり着かないまま止まらなくなることがあるのです。

本稿では、この弱点を重みの小さな編集で直す研究を紹介します。Data Brainの機能そのものではなく、記憶を受け取って働く小さなAIを、より確実に、より少ないトークンで動かすための基礎研究です。学習データも正解ラベルも使わず、モデル自身の出力だけから、GPU 1枚・84分で編集を作れます。

問題：考えたまま、止まらない

思考モードのQwen3.5-0.8Bでは、MATH-500の93%の回答が上限（32,768トークン）で打ち切られ、正答率は7.4%です。

Takehiらは、LLMエージェントのGPT-6 Astraにこのモデルの重みを約20時間読ませました。Astraが書いた重み編集（以下、Astra編集）は多くのループを止め、正答率を大きく引き上げました。

本稿の問いは一つです。エージェントが20時間かけて見つけた編集を、固定のルールで書けるか。

結論：単純なルールの方が良い編集を書けた

提案するルール CLC-sel は、エージェントも勾配も正解ラベルも使わず、モデル自身の回答だけから編集を作ります。

  • MATH-500で56.3%：Astra編集の49.7%を6.7ポイント上回る（95%信頼区間 4.5〜8.9）
  • 作成はGPU 1枚で84分：エージェントは約20時間
  • 変更する重みは同じ131,072個：モデル全体の0.016%

MATH-500の正答率。ベースモデル7.4%、繰り返しペナルティ22.4%、budget forcing 35.0%、思考なし45.8%、Astra編集49.7%、CLC-sel 56.3%、CLC-sel＋budget forcing 59.6%。

図1｜MATH-500の正答率（Qwen3.5-0.8B、思考モード）。Astra編集とCLC-selは3シードの平均。

鍵：「繰り返しを消す」のではなく「書き終える状態へ押す」

Astra編集を分解すると、2つの層それぞれで「1つの方向 u」と「64個のニューロン」を選び、その出力を弱めるだけのランク1の変更でした。

数式
W′=W−α u (m⊙s)⊤,s=W⊤uW' = W - \alpha\, \mathbf{u}\,(\mathbf{m} \odot \mathbf{s})^\top,\qquad \mathbf{s} = W^\top \mathbf{u}

つまり、方向・ニューロン・強さの3つを決めるルールがあれば、同じ種類の編集が書けます。

最初は「今繰り返している」という信号を消す方向を試しましたが、23.2%にとどまりました。Astra編集の方向をロジットレンズで読むと、文章を終わらせるトークンを押し上げていました。効いていたのは、ループ中の状態を、モデルが思考を閉じるときの状態へ押し出すことだったのです。

CLC-selの作り方

CLC-selが読む3つのウィンドウ。ループする回答からは初出Fと、それを文字どおり繰り返すループRを取り出す。書き終える回答からは、思考を閉じる直前の64トークンである終結Cを取り出す。

図2｜練習問題512問へのモデル自身の回答から、3種類のウィンドウを取り出す。

  • 方向：ループ中の平均状態から、</think> 直前の平均状態を引いた方向。
  • ニューロン：同じ文章を2回目に書くとき、この方向への出力が最も増える64個。こうすると編集はループの中でだけ強く働き、通常の推論を早く打ち切りにくくなります。

層と強さはAstra編集と同じ（層15・19、α = 6）にして、方向とニューロンの選び方だけを比べました。

結果

手法 MATH-500 打ち切り GSM8K トークン（GSM8K）
ベースモデル 7.4 93.0 13.8 —
Astra編集 49.7 32.1 67.4 12.0k
CLC-sel 56.3 17.7 69.0 9.1k

正答率・打ち切り率は%。Astra編集とCLC-selは3シードの平均。

  • GSM8Kでも1.6ポイント上回り、トークン数は24%少なくなりました。
  • 編集なしでbudget forcingを使った場合（35.0%）より20.8ポイント高く、両方にbudget forcingを適用しても差は残ります。
  • 層と強さもルールで自動選択すると、Astra編集と同等の性能になりました。

改善の正体：推論が上手くなったのではなく、書き終えられるようになった

書き終えた回答の割合と正答率の散布図。CLC-selは82%が完了し56.3%、Astra編集は68%が完了し49.7%、自動・層13の編集は90%が完了するが49.6%。

図3｜どの手法でも、書き終えた回答の割合が高いほど正答率も高い。

両方の編集が書き終えた問題では、正答率はほぼ同じです（74.0%と74.9%）。差はほぼすべて、Astra編集では打ち切られ、CLC-selでは書き終えた問題から来ています。この編集は推論力を上げるのではなく、ループで失っていた答えを取り戻します。

限界

  • 試したのはQwen3.5-0.8Bと2つの数学ベンチマークだけです。
  • 「終結へ押す」という発想は、Astra編集を読んで得たものです。エージェントは仕組みを見つけ、ルールはそれを安く確実に適用した、という分担です。
  • 思考オフのベースモデルは45.8%を少ないトークンで解きます。この編集が役立つのは、思考モードが必要な場面です。

まとめ

重みを読むエージェントは、仕組みを見つけるのが得意です。いったん仕組みが分かれば、固定のルールの方が速く、安く、誰でも再現できる形でそれを適用できます。エージェントの最も価値ある成果は、書いた編集よりも、見つけた仕組みなのかもしれません。

Data Brainが必要な記憶を渡しても、受け取ったAIが答えを出し切れなければ意味がありません。手元の小さなモデルが、少ないトークンで最後まで考え切ること。この研究は、その土台に向けた一歩です。

テストセットでの比較はすべて実行前に条件を固定して記録し、失敗も含めて公開しています。

コード・データ

コード・研究記録（GitHub） · 編集済みモデル · 全生成結果 · 筆者のブログ（英語・詳細版）

Astra編集、そのログ、評価プロトコルは Takehiら（2026） によるものです。公開に感謝します。