FC2ブログ

一般化フレーム問題

純LISPのチューリング完全性について
もう少し状況を確認したくてネットサーフィンしていたら
こんな問題に出会った。
フレーム問題(Wikipedia)

人工知能は、何かをするために、「どこまで考慮しなければいけないか」(フレーム)を
まずは決める必要がある。というお話で
それを「人間はどこまで考慮するかをどうやって決めているか」を
一般化フレーム問題というらしい。

自分が行動する際にどう考えているかを考えてみる。

その目的にかなった行動として成功した例、失敗した例などがある。
人によって考慮の範囲がことなる。

これらをメタ的にみると、無限の可能性の前で
「目的にかなった行動かどうか」自体が定式化できない。
という気がしてくる。

Wikipediaには人工知能の開発などはあらかじめフレームを定めるとあるが、
人工知能の開発においては、無限の可能性をあらかじめプログラミングすることは
当然できないわけで、そこに成長や知識の獲得という機能をつけたとしても
その過程ごとに結論が変わってしまい、
さらにうまくできたかどうかを判断する人間の意向いかんで
「開発が成功したかどうか」が変わる。

と、考えてみると、
人間は人工知能あるいは他我に
何を求めているのか、
というコミュニケーション上の問題にも関わる問題かなと。
関連記事

コメントの投稿

非公開コメント

a8
最近の記事
月別アーカイブ
ブログ内検索
グリムス
フリーエリア
リンク
RSSフィード