Automation Bias:
自動化バイアス

用語集のトップページへ

自動化バイアスとは

自動化バイアスとは、自動化支援システムや意思決定支援システムに過度に依存することを意味します。自動化された意思決定支援システムの利用可能性は高まっており、集中治療室や航空機のコックピットなど重大な影響を及ぼす意思決定が必要な状況下での利用も一般的になりつつあります。認知的努力を最小限に抑え、「自動化バイアス」に依存しがちなのは、人間の傾向性ですが、大規模なデータからの学習をベースとするAIや自動化機能にも同様の傾向性が当てはまる懸念があります。このタイプのコンピューテーションは、将来的に物事が根本的に変わらないことを前提としています。もう一つの懸念事項は、欠陥のあるトレーニングデータを使用すると学習に欠陥が生じるというリスクです。

機械学習バイアスとは

機械学習バイアスは、アルゴリズムが、使用されるアルゴリズムや入力データのバイアスを示す方法に関連しています。今日、人工知能(AI)は、データに基づく新たな洞察を発見し、人間の意思決定の向上に役立てられています。一例として、スマートフォンのログインに使用される顔認証機能が挙げられます。偶発的なバイアスは、さまざまな要因で発生しますが(ウィキペディアには184件掲載)、主な原因は次の3つです。
  • 不完全なデータサンプル
  • 不正確なデータセット
  • 経時的な相互作用によって生じる偏った学習(インタラクションバイアス)
自動バイアスあらゆる可能性のあるエッジのユースケースを反映した包括的で広範なデータセットを使用することで、データのバイアスを防ぐことができ、データセットが包括的であればあるほど、AI予測の精度は向上します。AIに取り組む際に考慮すべきポイントがいくつかあります。問題に適した学習モデルの選択:バイアスを完全に回避できるモデルはおそらくありませんが、構築時に情報を提供してくれるパラメータの選択は重要です。実行前に、状況に最適なモデルの特定とトラブルシューティングをする必要があります。代表的なトレーニングデータセットの選択:さまざまなグループを含む多様なトレーニングデータを使用するようにします。実データを使用したパフォーマンスの監視:アルゴリズムを構築する際には、できるだけ実世界のアプリケーションをシミュレートする必要があります。  

関連リソース


用語集のトップページへ