Automation Bias:
自動化バイアス
用語集のトップページへ
自動化バイアスとは
自動化バイアスとは、自動化支援システムや意思決定支援システムに過度に依存することを意味します。自動化された意思決定支援システムの利用可能性は高まっており、集中治療室や航空機のコックピットなど重大な影響を及ぼす意思決定が必要な状況下での利用も一般的になりつつあります。認知的努力を最小限に抑え、「自動化バイアス」に依存しがちなのは、人間の傾向性ですが、大規模なデータからの学習をベースとするAIや自動化機能にも同様の傾向性が当てはまる懸念があります。このタイプのコンピューテーションは、将来的に物事が根本的に変わらないことを前提としています。もう一つの懸念事項は、欠陥のあるトレーニングデータを使用すると学習に欠陥が生じるというリスクです。機械学習バイアスとは
機械学習バイアスは、アルゴリズムが、使用されるアルゴリズムや入力データのバイアスを示す方法に関連しています。今日、人工知能(AI)は、データに基づく新たな洞察を発見し、人間の意思決定の向上に役立てられています。一例として、スマートフォンのログインに使用される顔認証機能が挙げられます。偶発的なバイアスは、さまざまな要因で発生しますが(ウィキペディアには184件掲載)、主な原因は次の3つです。- 不完全なデータサンプル
- 不正確なデータセット
- 経時的な相互作用によって生じる偏った学習(インタラクションバイアス)

関連リソース
用語集のトップページへ