Jacobian Lens（jlens）実装ガイド：LLM内部思考を可視化するPythonツール

AnthropicがLLMの内部思考過程を可視化する「Jacobian Lens（J-lens）」のリファレンス実装を公開。任意の中間層の活性化がモデルに何を「言わせようとしているか」をJacobian行列で推定し、トークンランキングとして可視化できる。AI安全性研究・モデル解釈可能性ツールとして1,450スターを獲得し注目されている。

Jacobian Lens（jlens）とは？LLMの内部思考を覗き見るツール

jlens（GitHub: https://github.com/anthropics/jacobian-lens）は、Anthropicが2026年7月に公開した解釈可能性（Interpretability）研究ツールです。論文「Verbalizable Representations Form a Global Workspace in Language Models」のコンパニオン実装として公開されています。

「Jacobian Lens」は、LLMが最終的なテキストを出力する前の段階で、内部の残差ストリーム（Residual Stream）活性化が「どのトークンを出力させようとしているか」を数学的に推定します。

lens_l(h) = unembed( J_l @ h ),  J_l = E[∂h_final / ∂h_l]

この期待値をWebテキストコーパス全体で計算することで、層ごとの「J-space」（Jacobian空間）を可視化できます。

なぜ今このツールが注目されるのか

Anthropicの研究は、意識研究の「グローバル・ワークスペース理論」に着想を得ています。LLMの内部に、モデルが"言葉で表現しようとしている概念"が集まる構造（J-space）があることを発見しました。

具体的には以下のような発見があります：

• バグのあるコードを処理するとき、内部でエラートークンが活性化する
• プロンプトインジェクション攻撃を受けると「injection」「fake」などが内部活性化する
• 多段階計算の途中ステップが中間層で処理される

インストールと基本的な使い方

インストール

git clone https://github.com/anthropics/jacobian-lens
cd jacobian-lens
pip install -e .

既存レンズの適用

import transformers, jlens

# HuggingFaceモデルをロード（Qwen等のデコーダー型）
hf = transformers.AutoModelForCausalLM.from_pretrained("Qwen/Qwen3.6-27B").cuda()
tok = transformers.AutoTokenizer.from_pretrained("Qwen/Qwen3.6-27B")
model = jlens.from_hf(hf, tok)

# Neuronpedia等で公開されているレンズをロード
lens = jlens.JacobianLens.from_pretrained("neuronpedia/jacobian-lens", filename="model/lens.pt")

# 特定プロンプトの中間表現を解析
lens_logits, model_logits, _ = lens.apply(
    model,
    "Fact: The currency used in the country shaped like a boot is",
    positions=[-2]
)

# 各層のトップ5トークンを表示
for layer, logits in sorted(lens_logits.items()):
    print(layer, [tok.decode([t]) for t in logits[0].topk(5).indices])

カスタムレンズの学習

独自モデル・独自コーパスに対してレンズを学習できます。

lens = jlens.fit(model, prompts=my_prompts, checkpoint_path="out/ckpt.pt")
lens.save("out/jacobian_lens.pt")

# 複数スライスを並列実行してマージ
lens_a = jlens.fit(model, prompts=prompts[:500])
lens_b = jlens.fit(model, prompts=prompts[500:])
combined = jlens.JacobianLens.merge([lens_a, lens_b])

LLM 内部表現 可視化 Python：walkthrough.ipynb で試す

walkthrough.ipynbは、レンズを適用して層×位置のスライスビューを描画するエンドツーエンドノートブックです。

インタラクティブビューの読み方:
- 各セルが（位置, 層）のレンズTop-1単語を示す（上付き文字はランク）
- セルをクリックして位置・層を選択 → ランク遷移チャートとランクヒートマップが表示
- 最下行（L = n_layers-1）がモデルの実際の出力

実際の例として、「^」（鼻に見えるASCIIアート）の位置を選択すると、プロンプト中に「nose」という単語がなくても中間層で「nose」が活性化することを確認できます。Neuronpedia（https://neuronpedia.org/jlens）でインタラクティブデモが公開されています。

既存ツールとの違い・なぜ今このツールか

Logit Lensとの比較

従来のLogit Lensはモデルの中間層出力を直接アンエンベッドして可視化します。一方、Jacobian Lensの違いは：

観点	Logit Lens	Jacobian Lens
手法	直接アンエンベッド	Jacobian転送後にアンエンベッド
コスト	推論時に算出可	事前にフィッティングが必要
精度	層間の変換を無視	期待Jacobianで層変換を近似
論文	Nostalgebraist 2020	Anthropic 2026

Jacobian Lensは計算コストが高い代わりに、より精確なTransport（層間変換）を反映した表現を得られます。

LangFuseやWeightsAndBiasesとの使い分け

LangFuse・W&Bのような観測ツールは外部からの入出力を記録しますが、jlensはモデル内部の重みレベルの挙動を解析します。AI安全性・アライメント研究者がモデルの「意図」を調べるのに使う低レイヤーツールです。

こんな人に向いている：実務シナリオ

• AI安全性研究者（アカデミア）: LLMが有害コンテンツを生成する前の内部活性化を監視するツールとして応用。「secretly」「injection」等の危険概念がJ-spaceに現れるタイミングを検出する研究を行う
• MLエンジニア（大企業AI部門）: 自社のファインチューニング済みモデルにJacobian Lensを適用し、中間層の意味的変化を定量化。モデルの劣化・意図しない概念の学習を早期発見する
• インタープリタビリティ研究者: Sparse Autoencoderや回路分析（Circuit Analysis）と組み合わせて、J-spaceを使った新しい解釈可能性手法を開発する

使う前に知っておきたいこと：制限・注意点

重要な注意事項

• メンテナンスなし: README冒頭に明記「Reference implementation. Not maintained and not accepting contributions」。バグ報告やPRは受け付けられない
• パフォーマンス未最適化: 学習時間はモデルのバックパス時間に支配される。論文の1000シーケンス・128トークン設定はGPU時間が相応に必要
• VRAM要件: 対象モデルのサイズに依存。Qwen3.6-27Bなら48GB VRAM（RTX 3090×2等）が目安
• 商用モデル非対応: HuggingFaceで公開されているオープンウェイトモデルのみが対象。Claude等のAPIモデルには直接適用不可

ライセンス

コードはApache License 2.0。data/ディレクトリのデータセットも同ライセンス。ただし、使用するモデルウェイトのライセンスは各HuggingFaceリポジトリを個別確認すること。

まとめ：Jacobian Lensが切り拓くLLM解釈可能性の新領域

jlensは、LLMが「何を考えながら出力を生成しているか」を初めて系統的に可視化できるツールです。1,450スターが示す通り、AI研究者コミュニティからの注目度は非常に高く、Neuronpediaのインタラクティブデモでも広く試されています。

既存の日本語記事はJ-spaceの概念紹介が中心ですが、本記事では実装者向けにコード例・制約・モデル比較を詳しく解説しました。AI安全性とインタープリタビリティの交差点に位置するこの研究は、今後の安全なLLM開発の礎となるでしょう。

関連ツール・おすすめサービス

• Perplexity AI — AI研究論文のリアルタイム検索・要約に最適。Jacobian Lens関連論文の調査に活用できます

この技術を学ぶ

AI・機械学習に興味を持った方には、Udemyのオンラインコースもおすすめです。

• 関連するAIコース一覧 — セール時（最大90%OFF）を狙うとお得です