人工知能に潜む5つのバイアス


大変興味深い記事でしたので、ポイントをメモしておくとともに、読者の方に共有したいと思います。
少し、訳のほうが読みにくいということは否めませんが、こちらをご参照ください。

  1. データ駆動型バイアス
    そもそもの学習用のデータ自体が歪んでいて、それに気づかないままモデルを作ってしまうというパターンのバイアス。
    →「学習データがおかしい」ということ
  2. インタラクションを介したバイアス
    システムとインタラクションを行うユーザーのバイアスによって、システムのバイアスが引き起こされる。このバイアスの顕著な例は、ユーザーとのやりとりから学ぶように設計されたTwitterベースのチャットボットである。
    →「誤って学習する」ということ
  3. 偏向出現バイアス
    パーソナライゼーションを目的としたシステムによる意思決定が、私たちの周りにバイアスの「バブル」を作り出すことがある。
    →「一度見たモノがまた出現する」ということ
  4. 類似性バイアス
    時にバイアスは、単に設計されたように動作するシステムの生産物そのものである。例えばGoogleニュースは、ユーザーの問い合わせに合致するストーリーを、関連するストーリーとセットで提供するように設計されている。
    →「おすすめするコンテンツ等がよく似ている」のでおもしろくないということ
  5. 相反する目標バイアス
    時には、特定のビジネス目的のために設計されたシステムが、全く予期されなかったバイアスを持つことがある。
    →アルゴリズムが現実的でないルールを発見してしまうこと。

以上のように、人工知能にもバイアスが潜んでいる可能性があるので注意しなさいということになります。(いわゆるデータ分析やデータマイニングにもあてはまる)

 

コメントを残す

このサイトはスパムを低減するために Akismet を使っています。コメントデータの処理方法の詳細はこちらをご覧ください