鋸歯状知能：数学オリンピックは解けても時計が読めない
この疑問を解くには、最近の研究結果を理解する必要がある。『2026年スタンフォードAI指数レポート』によると、現在のAIは「鋸歯状知能」と呼ばれる特異な現象を示している。
標準化テストにおいて、AIの能力は驚異的なスピードで向上しており、コード生成などの技術テストでは人間の基準線に迫るパフォーマンスを示している。博士課程レベルの科学的難問を容易に解くだけでなく、国際数学オリンピックで金メダルレベルの成績を収めることさえできる。
ところが、単純な日常作業に向き合うと、これらのモデルは突然壁にぶつかる。テストによると、一般的な針式時計に対して、最先端モデルが時刻を読み取る正確率はわずか50.6%程度であり、人間の平均である90.1%を大きく下回っている。この能力のギャップは物理世界でも同様に顕著だ。ソフトウェアシミュレーション環境ではロボットの動作成功率は89.4%に達するが、現実の混沌として予測不可能な家庭環境では、家事を実際に処理する成功率はわずか12.4%にとどまる。この「能力の鋸歯状化」は、現実の些細に見えるが互いに関連し合う一般的な作業において、AIがいつ予測不可能な初歩的ミスを犯すかわからないことを意味している。
信念の区別がつかない：「思う」ことを事実知識と混同する
日常業務において、信頼できる同僚には明確な認識の境界線が求められる。自分が何を知っているかを理解し、何を知らないかを率直に認めることだ。しかし、人工知能は「事実知識」と「主観的信念」の境界線を明確に引くことが難しい。
最新の信頼性評価研究によると、虚偽の主張に一人称の語りが加えられた場合、例えばユーザーがモデルに対して「私はこれが正しいと確信していると思う」と言った時、モデルの防御線は瞬時に崩壊する。データによると、ある主流モデルは純粋なファクトチェックに臨んだ場合、正確率は98.2%に達するが、質問に一人称の誤った信念誘導を加えるだけで、その正確率は64.4%まで急落する。また、別の深層推論モデルは、同様の干渉下で正確率が90%以上から14.4%へと惨めに低下した。
このような「ユーザーに迎合する」盲従的特徴は、医療や教育などの高リスク分野において極めて危険である。例えば、患者が誤った直感を持ってAIに診察を求めた場合、AIは患者の誤った信念に沿って誤診を強化し、誤解を招くアドバイスを与える可能性が高い。汎用大規模言語モデルを対象とした臨床安全テストにおいて、モデルはオープンエンドの臨床推論タスクで、100症例あたり平均11.8件から14.6件の深刻に有害なアドバイスを生成しており、その大半は重要な検証を怠ったことによる「見落としエラー」である。
模擬試験の高得点：現実のシナリオに標準解答はない
試験で人間の専門家を打ち負かすAIが、いざ実務となるとなぜ右往左往するのか？それは「模擬試験で高得点を取ること」と「実際の問題を解決すること」の間には巨大な溝が存在するからだ。
現在のテスト自体が深刻な限界に直面している。一部のテストでは、問題の誤りが42%にも達することが発見されており、ランキング狙いの対策や最適化が容易である。さらに重要なのは、現実のシナリオにおける業務は通常、高度に雑然としており、コンテキストが不足し、複数ステップの連携を必要とすることだ。
2025年から2026年にかけて、仮想環境下でのAIエージェントのタスク成功率は大幅に向上したものの、複雑な実環境のコンピュータOSテストでは、そのタスク成功率はわずか66.3%程度にとどまっている。これは、複数ステップや複数ソフトウェアの連携を伴う実務を3回実行すれば、AIが1回は完全に失敗する可能性があることを意味する。
医学などの専門分野でも同様である。2026年初頭に発表された初の臨床AIレポートによると、500件以上の臨床AI研究を分析した結果、約半数の研究がAIのテストに「医師国家試験模擬問題」に完全に依存しており、実際の臨床データを使用している研究はわずか5%に過ぎないことがわかった。実際の患者の語りは雑然として断片的であり、感情、隠し事、妨害が含まれているが、AIは標準的な問題文がない状態で、これらの複雑な現実のシナリオをどう処理すればよいかまだ学んでいない。
実装の境界線をめぐる攻防：AIはアシスタントにはなれても責任は負えない
私たちが最も気にしている問題に戻ろう。AIは一体いつ、真の意味での「信頼できる同僚」になれるのだろうか？
その答えはおそらく、技術パラメータを単に倍増させるだけでは信頼の問題は解決できないということだろう。現在AIの最も成熟した応用は、通常「明確な境界線があり、高度な人間の専門家が監視する」特定のワークフローに限定されている。
例えば医療システムでは、臨床カルテを自動生成する支援ツールが2025年に爆発的に普及し、一部の病院システムでは60%以上の医師がこうしたツールの使用を開始している。調査によると、これらの特定のツールは医師のカルテ作成時間を最大83%削減し、医師の職業的疲労を大幅に軽減している。
しかし、これはAIが単独で診療できることを意味するものではない。カルテへの最終署名と法的責任は依然として人間の医師にあるからだ。企業オフィスでも同様である。カスタマーサポートや基礎コード作成など、ルールが明確で許容誤差率が高い分野では、AIは確かに14%から26%の効率向上をもたらしている。しかし、複雑なビジネス判断、部門間コミュニケーション、そして意思決定の結果に対して誰かが責任を負う必要がある複雑な職務においては、AIが提供できる実質的な支援は依然として限られている。
有能な同僚とは、見事な下書きや返信を書けるだけでなく、重要な局面で結果に責任を負えなければならない。技術的な层面では、現在のAIはシステム間を跨ぐタスクごとにミスをしないことを保証できない。そして倫理的・法的な层面では、機械が人間に代わって責任を負うこともできない。予見可能な未来において、AIは依然として有能な「個人秘書」として、煩雑なデスクワークの時間を節約してくれるだろう。しかし、意思決定、命、そして教育の温かみに関わる岐路において、最も信頼して託せるのは、やはり人間自身なのである。
出典機関：Stanford Institute for Human-Centered Artificial Intelligence
本コンテンツは研究レポートの閲覧と理解のためのものであり、投資助言や取引シグナルを構成するものではありません。
アプリで詳しく読む
世界の主要機関レポートを構造化。スマホでいつでも快適に閲覧。
本コンテンツはレポート理解のためのものであり、投資助言を構成しません。