芋の独り言

当ブログへのアクセスは当ブログのプライバシーポリシーに同意したものとみなします.

過学習はよくない

専門家化しすぎると,過去の研究をもとに,それに基づくいたパターンしか予測し対応できない. パターン外の出来事が起きると,判断できない(”予測外です”とかいう)or誤った解を導き出すことになる. これは機械学習でいうところの過学習であり,ヒト種の思考にも同様に過学習が起こるものと思われる.

しかし,専門家が必要でないわけではない. ある知識系統を極めた者も必要である. そこで,専門家をまとめあげられるような,幅広い知識を有するジェネラリストが必要なのだ.
⇩なんか,そんなこと,過去の記事でも書いたな...
kusoimox.hatenablog.jp

まぁ,要するに,専門家というアイドル・タレント的な奴をプロデュースしまとめあげられる総合プロデューサー・ディレクターのような人物が必要で, そういった人物=ジェネラリストが最終的な考察や判断をすべきである. ジェネラリストは専門家の意見が理解できるようにある程度深い知識を有する必要があり, それを複数人の専門家相手に対して行わねばならない. そして,様々な専門家の話を聞いたうえで,ある事象を複数の視点から観察し,複数の解を導き出したうえで, 最終的に最適な解を導くことができなければならない. また,専門家もジェネラリストが理解できるように出来るだけ簡単な言葉で説明する思いやりが必要である.

と,ここで機械学習の話にすると,以上のようなシステムを模倣し, エキスパートな(わざと過学習した)ニューラルネットワークニューラルネットワーク=NNと略そう)を複数用意し, それを統合して判断するNNというものを作れないだろうか?と考える. ある事象に対し,統合NNは各エキスパートNNのある事象に対する予測値とそれに対するある事象との一致率・生起確率の組を 入力として予測値を出力する.