Amazonが「AIを使ったスマートな採用」をやめた理由…その「意外な危うさ」に気づいていますか

その「最適化」は大丈夫か？

ChatGPTの登場いらい、AIに関する議論はこれまでになく大きな盛り上がりを見せています。

そんななか、AIを活用する場面の一つとして大いに注目されるのが、企業などによる「採用」です。履歴書をAIに「読ませ」、応募者がその企業に必要な人材であるかどうかを判別させる……といった活用法が想定されます。

ところが、こうしたAIを用いた採用には、倫理的な問題が含まれていることが指摘されています。

哲学の研究者で関西外国語大学准教授の戸谷洋志さんの著書『スマートな悪』は、現代社会をおおいつくそうとする「スマートさ」「最適化」といった思想が、どのような危うさをはらんでいるかを精緻に分析したものですが、同書のなかには、Amazonが試みた「AI採用」を例に、「最適化」という発想にかくされた意外な危険性を指摘した部分があります。

AI採用にはどのような問題があるのか、同書から引用します（改行の場所を編集しています）。

〈アマゾンは人事のプロセスを最適化するために、二〇一四年、AIによって応募者を自動的に評価し、採用候補者を選出するツールの開発に着手した。開発されたAIは、過去にアマゾンに送付されてきた一〇年分の履歴書を分析し、評価されるべき応募者の人材像を学習した。しかし、その結果、そのAIは女性よりも男性を高く評価する傾向をもつことが明らかになり、性差別を助長する恐れがあるとして、アマゾンはこのシステムの運用を停止することになった。〉