【データの活用】AI(機械学習)の問題（限界）

機械学習

（１）機械学習は、膨大なデータを学習し、分類方法や予測を出す方法を自動的に構築するものです。

（２）機械学習には、膨大なデータを用意しなければ活用できない、という欠点があります。

（３）その他、機械学習には、以下の問題があります。

機械学習の判断は説明できない

（１）基本的に、機械学習がなぜその判断をしたのかは分かりません。

（２）機械学習の場合、様々な分析方法を試して結果を出しますが、その分析方法を使った理由は説明ができないからです。

（３）AIの判断結果について、説明する機能をつけることは新たな課題になります。

機械学習の判断には不公正（バイアス）が入る可能性があります

（１）機械学習は膨大なデータを学習しますが、そのデータの選出にバイアスが入っているとそのバイアスを学習してしまいます。しかし、前述したように、機械学習については、なぜその判断をしたのか判定できません。

（２）そうすると、機械学習の判断について不公正がないかをチェックすることは困難です。

（３）機械学習の判断について、公平さを担保する機能をつけることは新たな課題になります。

変化することが前提の環境では使いにくい

（１）機械学習は利用していくと、さらにデータが増えます。

（２）追加情報について、機械学習の判断方法の変化に反映させるか、させないかは選択できます。

（３）機械学習の判断を自由に変化させると、変化後の判断過程について検証ができません。逆に機械学習の判断の変化をロックさせると、追加のデータを活かせません。

（４）機械学習は、環境が変更することが前提の環境では使いにくい側面があります。

機械学習は想定外の判断に弱い

（１） 機械学習は、人が用意したデータに基づいて学習し判断します。

（２） 事前に予見していない事態についてえは、データがなく、機械学習の判断には限界が出てきます。

誤作動時の責任があいまい

（１）AI（機械学習）の判断が社会的に誤っていても、AI（機械学習）の判断機能として問題がないことも起きえる。また、利用者、開発者、それらの過程が複雑になります。

（２）AI（機械学習）の誤作動については、誰がどのように責任をとるか法律で定めておかないと、責任の所在が不明確になります、

誤作動時の原因究明が困難

（１）AI（機械学習）の判断が社会的に誤っていても、AI（機械学習）の判断機能として問題がないことも起きえる。また、利用者、開発者、それらの過程が複雑になります。

（２）AI（機械学習）の判断が誤った原因を解明することも困難です。

参考文献

　ハーバードビジネスレビュー　2022年2月号14頁以下

　ハーバードビジネスレビュー　2021年9月号54頁以下