Nerf Watch

ClaudeやCodexは劣化している?

1日1回、同じ非公開テストを、Claude MaxプランのClaude Code経由でClaudeのモデルに、ChatGPT ProプランのCodex経由でOpenAIのモデルに、推論強度lowで出題し、採点はコードが行います。テストがモデルの学習に使われるリスクを減らすため、問題は非公開にしています。スコアが前回の実行から10ポイントを超えて動いた場合は、そのモデルのグラフに表示される印から、変化の根拠となった回答の閲覧を申し込めます。

最終実行の保存日:

これらのスコアは、ご自身のアプリやダッシュボードでも利用できます: 公開APIと再利用の条件.

最新スコア

スコアはテストスイートの合格率(%)です。変化はポイントで示し、そのモデルの前回の実行と比べた値と、最新の実行より前の7日間に行われた実行の平均(3回分そろった時点から)と比べた値を表示します。この基準値との差が2ポイント以内なら横ばいとみなします。

各モデルの最新スコアと比較
モデル最新実行日前回比7日間の基準値比傾向
Fable 5.1 · Anthropic96.82026年10月22日−2.9----
Haiku 5.5 · Anthropic96.52026年10月22日+14.5----
Opus 5.5 · Anthropic99.82026年10月22日+2.7----
Sonnet 5.5 · Anthropic100.02026年10月22日+0.5----
GPT-5.6 Luna · OpenAI47.82026年10月22日−17.6----
GPT-5.6 Sol · OpenAI94.12026年10月22日+3.2----
GPT-6 Astra · OpenAI100.02026年10月22日0.0----
GPT-6 Luna · OpenAI17.62026年10月22日−2.3----
GPT-6.1 Sol · OpenAI97.12026年10月22日−2.5----
2026年7月25日〜2026年10月22日(UTC)、全モデル共通の目盛り

Fable 5.1 · Anthropic

最新 96.8(2026年10月22日)

0204060801007月25日10月22日
表で見る
日付(UTC)スコアスイート
2026年10月22日96.82026.10.1
2026年10月21日99.82026.10.1
2026年10月20日97.12026.10.1

Haiku 5.5 · Anthropic

最新 96.5(2026年10月22日)

0204060801007月25日10月22日
表で見る
日付(UTC)スコアスイート
2026年10月22日96.52026.10.1
2026年10月21日82.02026.10.1
2026年10月20日79.42026.10.1

Opus 5.5 · Anthropic

最新 99.8(2026年10月22日)

0204060801007月25日10月22日
表で見る
日付(UTC)スコアスイート
2026年10月22日99.82026.10.1
2026年10月21日97.12026.10.1
2026年10月20日100.02026.10.1

Sonnet 5.5 · Anthropic

最新 100.0(2026年10月22日)

0204060801007月25日10月22日
表で見る
日付(UTC)スコアスイート
2026年10月22日100.02026.10.1
2026年10月21日99.52026.10.1
2026年10月20日96.92026.10.1

GPT-5.6 Luna · OpenAI

最新 47.8(2026年10月22日)

0204060801007月25日10月22日
表で見る
日付(UTC)スコアスイート
2026年10月22日47.82026.10.1
2026年10月21日65.42026.10.1
2026年10月20日44.92026.10.1

GPT-5.6 Sol · OpenAI

最新 94.1(2026年10月22日)

0204060801007月25日10月22日
表で見る
日付(UTC)スコアスイート
2026年10月22日94.12026.10.1
2026年10月21日91.02026.10.1
2026年10月20日88.22026.10.1

GPT-6 Astra · OpenAI

最新 100.0(2026年10月22日)

0204060801007月25日10月22日
表で見る
日付(UTC)スコアスイート
2026年10月22日100.02026.10.1
2026年10月21日100.02026.10.1
2026年10月20日100.02026.10.1

GPT-6 Luna · OpenAI

最新 17.6(2026年10月22日)

0204060801007月25日10月22日
表で見る
日付(UTC)スコアスイート
2026年10月22日17.62026.10.1
2026年10月21日19.92026.10.1
2026年10月20日9.02026.10.1

GPT-6.1 Sol · OpenAI

最新 97.1(2026年10月22日)

0204060801007月25日10月22日
表で見る
日付(UTC)スコアスイート
2026年10月22日97.12026.10.1
2026年10月21日99.62026.10.1
2026年10月20日99.82026.10.1

仕組み

内容
ひっかけ問題、正確な数え上げと並べ替え、文字単位のルールに沿った作文、そして実際に動く小さなアプリの作成です。
方法
テストの種類ごとに新しいセッションで実行します。採点はすべてコードが行い、アプリは実際のブラウザでテストします。AIモデルが別のモデルを評価することはありません。
環境
有料プランのCodexとClaude Codeを、プロバイダーのAPIキーではなくサブスクリプションのログインで使って実行します。
低下の意味
そのモデル自身の基準値、つまり最近の実行結果の平均を下回るスコアのことです。1日だけの低下はノイズかもしれません。また、スコアが低いのはこのテストスイートでのスコアが低いということであり、プロバイダーがモデルを変更した証拠ではありません。
根拠
モデルのスコアが前回の実行から10ポイントを超えて動くと、そのグラフに印が表示され、両日の回答を1問分申し込めます。対象は、最も変化したテストの種類の中で最も変化した問題です。7日間有効なリンクをメールでお送りします。表示されるのは回答だけで、問題文は表示しません。並べ替えと文字ルールの回答には、採点プログラムが確認時に出力した行も表示します。