フレーム問題 ── AIが状況の関連情報をどう絞り込むかの古典的難題
生成AIが「常識的に当然のこと」をうっかり間違える背景にあるのが、 古典AIから続くフレーム問題。 関連性の絞り込みは、 ルールベースでも深層学習でも頭の痛い課題です。
ダニエル・デネット（Daniel Dennett）の有名な比喩を引きます。
この比喩のミソは、 「考慮すべきこと」と「無視すべきこと」を分ける作業そのものが計算的に爆発すること。 人間は「常識」で瞬時にやってのけますが、 形式化すると無限後退が起きます。
古典的な形式化（状況計算、 McCarthy & Hayes 1969）：
問題：宇宙に無数にある「変わらないこと」をすべて明示的に書く必要がある（フレーム公理）。 これが現実には書けない。
身近な例：「コーヒーを淹れる」という単純行動でも、 暗黙の前提は膨大。
このギャップが、 古典AIが「玩具世界（toy world）」を出ると急に脆くなる主因でした。
最小限のスニペットで動作確認できる例。 公的データ（SSDSE 等）を想定しています。
1 2 3 4 5 6 7 8 9 10 11 12 | # フレーム問題そのものは「コード一行で示す」性質ではないが、 # 「行動の副作用」を有限の枠で扱う簡易シミュレーション state = {'coffee': False, 'lights_on': True, 'cat_on_table': False} def make_coffee(state): new_state = state.copy() # フレーム公理の代用：他はそのまま new_state['coffee'] = True # 明示的に変える事実だけ更新 return new_state print(make_coffee(state)) # → {'coffee': True, 'lights_on': True, 'cat_on_table': False} # このパターン（事実をコピーして必要分だけ書き換え）が現代の暗黙的解決策の縮図 |
この用語の全体像を学ぶには、 横断的な教材で文脈を掴むのが効率的です。
フレーム問題は、 古典AIの工学的課題から始まったが、 やがて心の哲学へ波及しました。 Jerry Fodor は「グローバルな関連性判断こそ、 モジュール化された心では説明できない」とし、 認知科学の中核的難題に位置づけました。
逆に Andy Clark 等は「身体化された認知（embodied cognition）」「環境を計算リソースとして使う」立場から、 「閉鎖系として心を考えるからフレーム問題が出る」と批判します。 つまり「机上で考えず、 実世界とインタラクションすれば情報の絞り込みは身体・環境が代行する」という見方です。
| 分野 | フレーム問題的な現れ |
|---|---|
| 自動運転 | 「歩道に子供」「ボール転がる」等、 どこまで予測すべきか |
| LLM | 長文プロンプトで「重要箇所をどう絞り込むか」（attentionの設計） |
| 強化学習 | 環境状態のうち、 報酬に影響する要素を選別 |
| 説明可能AI | 「なぜAは選ばれBは無視されたか」を人間に説明 |
形は変わってもフレーム問題は恒久的です。
フレーム問題は、 古典AIの工学的課題から始まったが、 やがて心の哲学へ波及しました。 Jerry Fodor は「グローバルな関連性判断こそ、 モジュール化された心では説明できない」とし、 認知科学の中核的難題に位置づけました。
逆に Andy Clark 等は「身体化された認知（embodied cognition）」「環境を計算リソースとして使う」立場から、 「閉鎖系として心を考えるからフレーム問題が出る」と批判します。 つまり「机上で考えず、 実世界とインタラクションすれば情報の絞り込みは身体・環境が代行する」という見方です。
| 分野 | フレーム問題的な現れ |
|---|---|
| 自動運転 | 「歩道に子供」「ボール転がる」等、 どこまで予測すべきか |
| LLM | 長文プロンプトで「重要箇所をどう絞り込むか」（attentionの設計） |
| 強化学習 | 環境状態のうち、 報酬に影響する要素を選別 |
| 説明可能AI | 「なぜAは選ばれBは無視されたか」を人間に説明 |
形は変わってもフレーム問題は恒久的です。