ども、Tomonaritです。このGWは特に旅行へ行ったりする予定もなかったので（ボクシングの「井上尚弥×中谷潤人」の試合をTVで観戦するのが最も大きなイベントでした）、ちょっと読書でもしようと「NEXUS 情報の人類史」（ユヴァル・ノア・ハラリ著）の下巻だけ読んでみました。
AI革命のダークサイド
なぜ下巻だけ？かというと下巻は「AI革命」が主題だから（分厚いので上巻を読む気力までなくて・・・）。そして、ICT4D Labでちょうど最近はじまった「AIと哲学について考えよう〜」という企画のための勉強としても良いかなと思って手に取ってみました（ハラリ氏は歴史学者でもあり哲学者でもある）。
この本を読んでみて、昨年受講したサセックス大学のIDS(International Development Studies: 開発学研究所)が実施したオンラインコース「Inclusive Digital TransfOrmation in International Development」の内容の背景がより鮮明に理解できた感じがしました（このコースの受講後の振り返りを投稿しようと思いつつ、結局やってなかった・・・）。
「どーいうことか？」というと、サセックス大学の短期コースでは、やたらとAIが及ぼす不公平や巨大テック企業にデータを搾取される弱者をどう救うか？とかデジタル植民地主義的とか、AI活用の「ダークサイド対策」的トピックに焦点が当たっていた（と感じた）のですが、この本を読んでみて、その理由がすごく納得できました（デジタル植民地主義については以下のポストを見てみてください）。
AIアルゴリズムによってすでに、かなり大きな事象が起きており、今後もそのインパクトはどんどんデカくなる・・・ということを（これまでもなんとなく理解はしていたつもりだけど）とても実感を持って理解できたので、国際開発においてもAI活用の「ダークサイド対策」が超重要な課題だと再認識できました。そんなふうに感じた大きな理由として、この本で取りあげられていた事例を2つ紹介したいと思います。
ミャンマーのロヒンギャ迫害とFacebook
まず最初は、ミャンマーの事例です。ロヒンギャ問題については難民問題として聞いたことがある人が多いかと思いますが、ミャンマーのラカイン地域に住むイスラム教徒がミャンマー軍から迫害を受けて、バングラデシュへ逃げて難民化しているという問題です。この迫害のレベルがかなり酷なもので、ミャンマー軍と仏教徒の過激派が、ロヒンギャの村を破壊し武器を持たない一般市民を7,000〜25,000人殺害し、18,000〜60,000人の男女に性的な暴行や虐待を働き、約73万のロヒンギャを国外へ追い出した・・・というものと言われています。
アムネスティ・インターナショナルの調査では、「アルゴリズムは、ロヒンギャに対する暴力と憎しみと差別を煽り立てるフェイスブックのプラットフォームのコンテンツを積極的に取り上げ、推奨した」ことがわかった。国連の事実調査団は2018年、フェイスブックは憎悪に満ちたコンテンツを拡散することにより、この民族浄化の組織的活動で「決定的な役割」を果たしたと結論した。
「NEXUS 情報の人類史」（ユヴァル・ノア・ハラリ著）第6章 P14
そして、ミャンマーではインターネット＝FacebookというくらいFacebookが普及していたという背景もあり、この迫害運動を煽った大きな一因がFacebook（のアルゴリズム）だったという話。「エンゲージメントを高める」という目標に対してアルゴリズムが出した結論は、ユーザーが注目するコンテンツをリコメンドするという、ある意味とても自然な方法で、その真偽はさておき過激なコンテンツがリコメンドされ、ユーザーの反ロヒンギャ感情を煽ったとのことです。
そういうリスクを分かっていながら十分な対策（ミャンマー語が分かる従業員を十分にアサインしていなかったなども含め）をしなかったFacebook（メタ社）の責任は重いでしょう。アムネスティインターナショナルのWebサイトにも詳細が掲載されています。
また、この本の別の章では、2016年のFacebookの内部報告では「過激派のグループへの参加者数の64％は、当社のレコメンデーションツールに帰せられる。[・・・・]当社のレコメンデーションシステムは、その問題を助長している」との報告があったということも言及されていました。
ブラジルの大統領選とYouTube
次はブラジルの例です。2018年の大統領選挙でジャイール・ボルソナーロ氏が当選した背景に、YouTubeのアルゴリズムがあるというもの。
ジャーナリストのマックス・フィッシャーが2022年の著書「カオス・マシン（The Chaos Machine）」に経緯を綴っているように、ユーチューブのアルゴリズムの強力な後押しを受けて、ブラジルで極右が台頭し、ジャイール・ボルソナーロが泡沫候補から大統領になった。その政変には他の要素も絡んでいたが、ボルソナーロの主要な支持者や側近の多くがもともと、アルゴリズムのおかげで名声と力を獲得したユーチューバーだったことは特筆に値する。
「NEXUS 情報の人類史」（ユヴァル・ノア・ハラリ著）第8章 P95
この「アルゴリズムのおかげで名声と力を獲得したユーチューバー」の例として以下の2名が取りあげられています。
- カルロス・ジョルディ：学校の教師たちが子供を洗脳したり保守的な生徒を迫害したりする陰謀があるとブラジル国民に警告する動画など、煽動的な動画で何百万もの視聴者を獲得し、ボルソナーロの熱烈な支持者として小さな市の市議会議員から2018年にブラジル下院で議席を獲得。
- キム・カタギリ：2018年にブラジル下院で議席を獲得したユーチューバー。当初はFacebookで投稿していたが過激な投稿が偽情報として削除されたので、規制が緩いユーチューブに移って活動。
ミャンマーの例ではFacebookのアルゴリズムがエンゲージメントを高めるために学習したのと同様に、YouTubeのアルゴリズムも過激なコンテンツ（陰謀論とか）をリコメンドする方法をとっているということですね。
AI＝エイリアン・インテリジェンス
上記の事例はいずれも、FacebookやYouTubeがコンテンツを生成しているわけではないのに、これだけ大きな影響が起きるという話ですが、生成AIによるコンテンツ作成や投稿の影響を考えると、ちょっとゾッとしてきませんか？
そして、2016年のアメリカの大統領選挙期間中に投稿されたツイートのサンプル2,000万件のうち、380万件（約20%）がボットによるものだった、という話や、2022年の調査（シミラーウェブ社）ではツイッターのユーザーの5%がおそらくボットで、全投稿の20.8%〜29.2%を生成している、という話もこの本では出てきます。
すでに生成AIを使ってコンテンツを作成し投稿しているユーザはいるでしょうが、そのコンテンツの真偽まで正確に確認しているのか？そして、そもそも確認できるのか？というのがより深刻な課題です。
生成AIは膨大なデータに基づいて、その膨大なデータの因果関係なども自分で考えて、コンテンツを作成してくるので、内容次第ではその根拠や真偽を確認するのはかなり大変な作業になるでしょう。この本では、2016年にAlphaGoが韓国の囲碁チャンピオンを破った試合（第２局）で、AlphaGoが37手目に打った「奇妙な手」を誰も解説できなかったという話を引き合いに出しています（実際、その奇妙な手が終盤で勝利に貢献）。
この本では、AIを人工知能という意味とは別に、エイリアン・インテリジェンス（人間のものとは異質の知能）として説明・取り扱っており、AIが導き出す結論・決定は、もはや人間が紐解くことができない・・・という問題も提起しています。
今後に向けて：AIと哲学
民間企業がエンゲージメントを高める努力をするのも当たり前だし、過激なコンテンツが注目を集めるのも当たり前、ではあるものの「このままで良いのか？いや、良くないだろう・・・」と誰もが感じるのだと思います。インターネットそのものやその上のいくつかのサービスは、いつの間にか知らない間に、道路インフラや教育や医療サービスのように、「社会インフラ」として国が責任を持って提供するべきレベルに普及・発展してきたということか。しかしながら、民間ビジネスでやってきたからこそ社会インフラレベルに普及・発展したわけで（最初から公的サービスだったら誰も使わないよね・・・）、どうにか「良い塩梅」に規制していくのが今後の課題なのでしょう。
そして、ICT4D Labの新企画として始まったAIと哲学についての議論が、そんな「良い塩梅」を探るヒントになるような気がしています（そんな企画になると良いなぁ）。
コメント