人工知能（AI）は、そのアルゴリズムが人間による設計上の選択に基づいており、その選択が価値中立であることはまれであるため、偏った結果を生み出すことがあります。
しかし、これによって人々が敬遠すべきではありません。AIが不公平を助長する傾向があると認識することは、公平性を求める闘いにおいて私たちに優位性をもたらすかもしれないからです。
不公平な結果に共通する特徴を分析し、機微な情報をデータセットに戻すことで、AIのバイアスへの対処に役立てることができます。
人工知能（AI）が偏った結果を生み出しうることに驚く必要はありません。そのアルゴリズムは、人間による設計上の選択に基づいており、その選択が価値中立であることはまれだからです。
また、アルゴリズムには、過去の意思決定パターンを再現する結果を出すよう求めていますが、そこでは私たちの先入観も関わってくる可能性があります。しかし、特に公平性が問題となる場合、未来が過去と同じであってほしくないとしたらどうでしょうか。
AIの利用が不公平な結果を招く可能性があるからといって、AIの利用をやめる必要はありません。一部の著名な技術者が示唆しているように、AIの利用を一時停止する必要もありません。むしろ、その逆です。
AIが不公平を助長する傾向があると認識することは、公平性を求める闘いにおいて私たちに優位性をもたらすかもしれません。結局のところ、人間によって生じたバイアスを是正するより、AIのバイアスを緩和するほうが間違いなく容易でしょう。
それは、AIにおける不公平さは体系化して数値化することができ、そのため、無意識の偏見や思い込みに悩まされがちな人間による意思決定よりも透明性を高めることができるからです。
AIがバイアスを生み出すわけではありません。むしろ、AIはバイアスの事例を映し出す鏡の役割を果たしています。そして、目に見えて測定できるものは、止めやすいのです。
AIの公平性は優先課題であるべきです
しかしまず、私たちはその鏡を見つめなければなりません。雇用、融資、医療に至るまで、あらゆる意思決定にアルゴリズムが影響を及ぼしていることを踏まえ、政府と企業はAIの公平性を優先課題とする必要があります。
現在、米国と欧州連合（EU）は、人工知能のバイアスの増加を抑制するための取り組みを主導しています。米国の雇用機会均等委員会による監督、そしてEUにおけるAI法およびAI責任指令です。
当初は、AIのバイアスによって重要なサービスへのアクセスが拒否されうる特定の分野に焦点を当てるべきです。その代表例としては、与信、医療、雇用、教育、住宅所有、法執行、国境管理が挙げられます。こうした分野では、固定観念や偏見が不公平な現状を日常的に広め、平均寿命の短縮、失業、ホームレス、貧困につながりかねません。
人工知能のバイアスの管理は、アルゴリズムの結果を導入前に検証することから始めなければなりません。AIのバイアスに関する誤りは、アルゴリズムを評価する人々が、結果が公平かどうかよりも、意思決定に投入されるデータに注目した場合に、最もよく生じます。
ほとんどの場合、AIモデルの複雑さと、それによって影響を受ける人々の生活があるため、AIの推奨が及ぼしうる異なる影響を常に予測できるとは限りません。バイアスが現れるのはまさにこの点です。
これを確実に行うためには、年齢、性別、人種、障害、婚姻状況、世帯構成、健康、所得といった機微なデータの中央データベースを、民間部門または政府が構築し、AIを活用したモデルをそれに照らして検証し、バイアスを修正できるようにする必要があります。
このような「AIの公平性」データセットがあれば、雇用主は採用要件を導入する前に、その要件にバイアスがないかを確認できます。また、大学は、応募者の経済状況、性別、人種、障害が合否に与える影響について、AIによる推奨を事前に分析できるようになるでしょう。
データは常に中立とは限りません
最近まで、バイアスを排除する答えは、アルゴリズムから性別や民族を示す識別情報を完全に削除することだと考える人が多くいました。アルゴリズムが候補者の人種や性別を知らなければ、その基準に基づいて意思決定が行われることはないというわけです。しかし、この前提は誤りであることが判明しました。匿名化されたデータからでも、アルゴリズムが候補者の人種や性別を依然として特定できる事例が数多く見られたのです。
融資を例に考えてみましょう。性別と人種を取り除いたとしても、人工知能は依然として白人男性を優遇するでしょう。白人男性は統計的に、より安定した所得履歴とより多くの資産を持っていますが、それ自体が不公平な雇用慣行の結果なのです。
世界経済フォーラムは、人工知能の倫理的な開発をどのように確保しているのでしょうか。
与信アルゴリズムは過去の融資パターンを再現しようとするため、白人男性以外の人々に対して不釣り合いに融資を拒否することになります。これは、過去の偏った結果と、より少ないデータに基づいて、その人々が融資を返済する可能性を過小評価するためです。
別の例もあります。銀行は、携帯電話番号を提供する意思を、融資を受ける人が借入金を返済するかどうかの指標としても用いています。女性は統計的に携帯電話番号を手放すことに慎重な傾向があるため、融資を求める男性と比べて、すぐに不利な立場に置かれてしまいます。
AIの正確性も重要です
結果については正確性の検証も必要であり、その欠如によっても結果にバイアスが生じる可能性があります。例えば、ChatGPTのような生成AIについては、現在、結果の正確性や真実性を、私たちは見ておらず、また求めてもいません。これにより、AIのバイアスが広がる別の経路が生まれています。チャットAIは、入力内容の事実的根拠を検証することができず、望ましいかどうかにかかわらず、単にパターンを模倣するだけです。
機微な情報をデータセットに戻すことで、不公平な結果に共通する特徴を分析すれば、AIのバイアスにより効果的に対処できます。しかし、公平性という点で人工知能自身の欠点を見つけ出すために、人工知能を使うことになるでしょう。
