フレーム問題なんか、AIに経験積ませて（人間のライフログを読ませまくるとか）
こういう場合は大体こういうことが起こる、という統計を取らせればいいだけじゃね。

将棋のボナンザが過去の棋譜読みまくって、機械学習したのと同じだよ。
それで評価関数を作り上げた後は、評価関数的に得点の低い選択肢を刈り込めばいいだけ。
フレーム問題が真に解決不能なら、将棋AIだって作れない。

まあ「突然、鏡の中からエイリアンが酸を吹きかけてきた」みたいなわけの分からん状況だと
対応できないだろうが、そんなのは人間も一緒だしな。