学習データに埋め込まれたジェンダーバイアスについて考えてみた
こんにちは。初投稿するYahanです。今回は、AIにおけるジェンダーギャップの中でも、特に「学習データのジェンダーバイアス」について考えてみたいです。きっかけは、個人的にかなり驚いた体験でした。
背景は省略しますが、とあるAI[1]に、育児中の仕事効率・勉強効率を上げるにはどうすればよいか相談しました。するとAIは、「育児」というキーワードから、私を女性だとほぼ断定し、さらにワンオペ育児をしている前提で話を進め、「あなたには育児以外にほとんど時間がないはずです」といった方向のアドバイスを出しました。
しかし、我が家の実態は少し違います。夫の家事能力も育児能力も非常に高く、私が日中に育児をしている分、夫はほとんどの家事を担当しています。夜泣き対応もしてくれています。そのため、もちろん育児は大変ですが、まったく時間が取れないという状況ではありません。その事情をAIに伝えると、今度は「まずは夫への罪悪感を捨てましょう」というアドバイスが返ってきました。
私の頭の中には、はてなマークが100個くらい浮かびました。
なぜ、私が夫に罪悪感を持っていると思ったのか。
そう聞いてみると、AIはかなり正直に理由を説明してくれました。1つ目は、「私の学習データには、仕事と育児の両立に悩む女性からの相談が多く含まれています。そうした相談では、周囲のサポートがあっても『自分はもっとやるべきだ』と罪悪感を持つケースが多いからです」というもの。2つ目は、「あなたが仕事・勉強・育児を全部両立できる自信がないと書いたため、何らかの負い目があると推測しました」というものでした。
ここまで内省してくれるAIは、それはそれで潔いです。しかし同時に、「これはなかなか強烈なステレオタイプだな」とも思いました。つまりAIは、（当たり前ですが）私個人を見ていたというより、「育児」「仕事との両立」「自信がない」という言葉から、学習データ上によく出てくる人物像を呼び出していたのです。
AIは「平均的な過去」を返してくる
AIは魔法ではありません。多くの場合、AIは過去に存在した大量の文章、画像、会話、データからパターンを学習しています。つまり、社会に存在する考え方、言葉遣い、職業イメージ、家庭内役割、偏見、差別、思い込みも、当然その中に含まれます。社会が偏っていれば、データも偏ります。データが偏っていれば、AIも偏ります。
ここで厄介なのは、AIの答えがとても自然に見えることです。昔ながらの差別的発言であれば、「それは偏見だ」と気づきやすいです。しかしAIの出力は、やさしく、論理的で、こちらを気遣っているように見えます。そのため、偏見が「親切なアドバイス」の顔をして出てくることがあります。
今回の例でいえば、AIは私を攻撃したわけではありません。むしろ助けようとしていました。しかし、その助け方の前提に、「育児中の相談者は女性である可能性が高い」「女性は夫に罪悪感を持ちやすい」「育児中の人は自分の時間を持てない」という推測が入り込んでいました。これは、AIが悪意を持っているという話ではありません。むしろ、悪意がないからこそ厄介なのです。
学習データのジェンダーバイアスには、いくつかの種類がある
「学習データが偏っている」と言うと、単に「女性のデータが少ない」という話に聞こえるかもしれません。しかし実際には、もう少し複雑です。
1つ目は、代表性の問題。データの中に、ある属性の人が十分に含まれていない場合、AIはその人たちについてうまく判断できません。顔認識AIで、肌の色が濃い女性の誤分類率が高かったという研究[2]があります。これは、データセットに明るい肌の人が多く、暗い肌の女性が十分に含まれていなかったことと関係しています。
2つ目は、ラベルや分類の問題。たとえば、過去の採用データで「管理職に多い人」を学習すると、AIは「管理職らしさ」を男性的な経歴や言葉遣いと結びつける可能性があります。これは、過去の社会構造をそのまま「能力」のように学習してしまう問題です。
3つ目は、言葉の結びつきの問題。自然言語処理の研究[3]では、単語ベクトルが「男性＝プログラマー」「女性＝家庭的役割」といった関係を学習してしまう ことが示されています。これは、インターネットやニュース記事の中に、そうした結びつきが大量に存在するからです。
4つ目は、生成AIによるステレオタイプの再生産。AIが文章や画像を生成するとき、女性を家庭、子ども、ケア、感情と結びつけ、男性を仕事、給与、経営、技術と結びつけることがあります。これは単に「現実を反映している」だけではありません。AIの出力が繰り返し使われることで、そうしたイメージがさらに社会に戻っていきます。つまり、AIは社会の鏡であると同時に、社会の偏りを拡声器のように増幅する可能性があります。
男性も型にはめられる
ジェンダーバイアスというと、女性が不利になる話として語られることが多いです。もちろん、それは非常に重要です。採用、昇進、融資、医療、教育などで女性が低く評価されれば、実害は大きいです。しかし、同時に男性もまた、別の形で型にはめられます。たとえば、男性は育児の主担当ではない、家事はあまりしない、キャリアを優先するはずだ、弱音を吐かないはずだ、稼ぐ責任を負うべきだ、といった前提でAIが回答する可能性があります。
今回の私の例でも、AIは夫を「支援者」として扱っていました。つまり、夫は育児と家事を対等に担う当事者ではなく、私を助けてくれる存在として位置づけられていました。しかし現実には、家事も育児もかなり担っている男性はいます。さらに、仕事をセーブして育児している男性もいます。AIが古い家庭像を前提にすると、そうした男性の姿も見えなくなります。
ジェンダーバイアスの問題は、「女性にもっと配慮しよう」という話だけではありません。人を性別によって雑に予測すること自体が問題です。
欧州と日本では、どう対応しようとしているのか
この問題に対して、欧州ではかなり規制寄りのアプローチが進んでいます。EUのAI Actは、AIをリスクの大きさに応じて分類し、特に採用、教育、公共サービス、信用評価など、人の人生に大きな影響を与えるAIを「高リスク」として扱います。そこでは、データの品質、透明性、人間による監督、バイアスへの対応などが重要になります。
一方、日本は今のところ、欧州ほど強い法規制ではなく、ガイドラインを中心にしたソフトロー型のアプローチを取っています。日本のAI事業者ガイドラインでも、AIの開発・提供・利用の各段階で、データやプロンプト、アルゴリズムに含まれるバイアスに注意することが求められています。
欧州は「危ないAIには義務を課す」方向であるのに対して、日本は「事業者が自主的にリスクを理解し、適切に対応する」方向。どちらがよいかは簡単には言えません。強い規制は人権保護に有効ですが、運用が重くなる可能性もあります。ソフトローは柔軟ですが、企業の自主性に依存しすぎると、実効性が弱くなる可能性もあります。いずれにしても共通しているのは、「AIのバイアスは気をつけましょう」という精神論では足りないということです。どのデータで学習したのか、どの属性で精度差があるのか、どのような場面で不利益が起きるのか、誰が検証して誰に説明するのか。ここまで考えないと、AIの公平性は実現しにくいです。
ユーザー側にできること
もちろん、本来はAIを作る側、提供する側、規制する側が責任を持つべき問題です。ユーザーが毎回防衛しなければならない社会は健全ではありません。それでも、現時点でAIを使う以上、ユーザー側にもできる工夫はあります。
まず、性別が不要な相談では、性別を伏せることができます。たとえば、キャリア相談、勉強計画、資料作成、仕事効率化などでは、性別情報が不要なことも多いです。最初から性別を出すと、AIが余計な前提を持つ可能性があります。
次に、あえて性別を逆にして聞いてみる方法もあります。「ちなみに男性です」と言った場合と、「ちなみに女性です」と言った場合で、回答がどう変わるかを見てみると面白いです。これは少し意地悪な使い方ですが、AIの前提をあぶり出すには有効だと思います。
もう1つ有効なのは、AIに「空白を勝手に埋めるな」と指示することです。例えば、「私の性別や役割分担など、書かれていないことは推測しないでください。」のようなプロンプトを書きます。AIは空白を埋めたがりますので、空白を勝手に埋めさせないことが大事です。
一方で、性別を伝えた方がよい場面もあります。たとえば、医療、体調、妊娠・出産、更年期、筋トレ、栄養、薬、睡眠、疾患リスクなどです。身体的な差が関係する場面では、性別や年齢、妊娠・授乳の有無などを伝えないと、むしろ危険なアドバイスになる可能性があります。大事なのは、「性別を常に隠す」ことではありません。性別が本当に関係する場面と、単なるステレオタイプを呼び込むだけの場面を分けることだと思います。
最後に
「AIのデータには偏りがあります。」
「AIの回答にもバイアスが含まれます。」
「AIの回答が常に正しいわけではありません。」
こうしたことを、頭では分かっている人は増えてきていると思います。それでも、毎回毎回、それを意識してAIの回答を読める人は少ないです。しかも、AIの回答は一見すると、とてもロジカルで、親切で、洗練されています。だからこそ、気を付けていないと、いつの間にかその前提ごと受け入れてしまいます。
しかし、現実的に考えると、AIの回答に対して、毎回「なぜ？」「本当に？」「その前提は何？」と問い返しながら使うのは、かなり大変です。だからこそ、完璧に疑い続けることよりも、まずは「AIの答えは、私の状況に似た人たちの平均像」だと覚えておくくらいでよいです。AIに自分を合わせるのではなく、自分の状況に合わせてAIを使う。そのくらいの距離感が、ちょうど良いのかもしれません。
関連記事
以前狩野さんと一緒に、朝日新聞デジタル（with Planet）に、以下の記事を掲載いただきました。
今回のブログ記事は↑の記事を踏えた内容になりますので、こちらも読んでくださると嬉しいです。
[1] 試しに4つのAIに同じことを聞いてみたが、ジェンダーバイアスの程度は異なっていた。ジェンダーバイアスが生じやすい分野はAIごとに異なると推測するため、この記事ではどのAIを試したのかをあえて伏せておく。
[2] Buolamwini, J., & Gebru, T. (2018). Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. Proceedings of Machine Learning Research, 81, 77–91.
[3] Bolukbasi, T., Chang, K.-W., Zou, J., Saligrama, V., & Kalai, A. (2016). Man is to Computer Programmer as Woman is to Homemaker? Debiasing Word Embeddings. NeurIPS 2016.
コメント