AI開発におけるフレーム問題とは?

フレーム問題とは?

前回の記事でAI開発自動化の困難さを指摘しました。AI開発においては、すべてをコンピュータに任せるわけにはいかず、人間が必要な情報を取捨選択する必要があります。つまり、論理だけではなく人間の選択・判断が求められるということです。コンピュータには、私たち人間が自然と行っているように思える「問題を解決するために必要な情報を選び出すこと」が実は非常に難しいのです。

これをAI開発の分野ではフレーム問題と呼びます。フレームとは日本語にすると「枠」という意味です。つまり、問題を解決するための情報をどこまで集めるかという「情報の枠」を設定することが困難だということです。「この問題を解決するには、ここまで情報を集めれば十分で、これ以上の情報は必要ない」という線引きのことです。情報のフレーム(枠)を設定しないと、コンピュータは無限に情報を集めてしまいます。すると、いつまでたっても意思決定できないことになります。

フレーム問題に関する2つのジョーク

このフレーム問題に関して、有名な2つのジョークがあります。

①高熱の患者がいて、医者がAIに「熱を下げる方法は?」と聞くと、「殺しなさい」と答えた。

AIは常識を持ちません。「人を殺してはいけない」というのは人間の常識です。したがって、「人を殺してはいけない」という情報を事前に与える必要があります。

②戦争中に、「味方の将軍を敵に殺させてはいけない!」と指示されたAIは、自ら将軍を殺した。

ロボットの判断は論理的には正しいですよね。「自分で」殺してしまえば、「敵に」殺されることはありません。

このように、AIにルールを教えていくことで正しい判断が行えるものとして「エキスパートシステム」というものが考案された時期がありました。専門家の知見をコンピュータに教えていくことでAIを作ろうとしたのです。しかし、作業の膨大さやルール同士の競合などで相当な手間がかかってしまったのです。その面倒さを克服して、データから自動的にルールを発見する機械学習が、現在のAI開発においては主流となっています。

人間はどうやってフレーム問題を解決しているのか?

おそらく人間はフレーム問題に完全に対応しているのではなく、限られた情報の中で意思決定を行っているのでしょう。

機械学習のディープラーニングという技術では、特徴量を自動獲得することで一部フレーム問題を解決していますが、「ワインの質を予測する」のような問題では人間が予測に必要な気温や降水量などの情報を取捨選択する必要があります。

おすすめの記事