こんにちは、Kanotです。生成AIは本当に便利ですが、それによって一部の層では超えてはいけない線（シンギュラリティ）を超え始めていると感じることが何度かあり、記事を書いてみることにしました。
結論から書くと「ある程度の知識やITリテラシーのある層」が生成AIに最初に支配されつつあり、それがその層の成長を阻害している、と感じるという話です。
さて、ここから私がそう感じる理由を説明していきます。
産業革命以降の工業化、そして2000年以降のIT化の推進で単純労働の仕事が失われてきました。そして生成AIの登場で知的労働者の仕事が奪われると言われています。
そして、シンギュラリティ（技術的特異点）と呼ばれる、AIが人間の脳を超える日がいつ来るかという議論が以前からなされてきましたが、一定の層の人たちについて、シンギュラリティが起きていると感じる事がありました。
シンギュラリティが起きること（AIが人間の脳を越えること）をどう定義するかは様々と思いますが、この記事では「人間が考えることをせずに生成AIに答えを依存する状態」と定義して話を進めたいと思います。
まずは私の実体験から始めます。とある大学で授業を行っていて、IoTとプログラミングを組み合わせる課題があったのですが、課題の発表時に、例年と比べて「頑張ったけど思った通り動かず、時間切れになってしまった」と言ってくる学生が増えた印象を受けました。
そこで学生に検討課程を深掘りをしてみたところ「ChatGPTを参考にした」というコメントが複数人から返ってきました。「今はハードウェアの課題にも生成AIが使えてしまうのか・・」ととても驚きました。
先に誤解を避けるために言っておくと、私はChatGPTをはじめとする生成AIを使うこと自体に異論はありません。大いに活用すべきと思いますし、教員もそれに応じて試験の仕方や教える内容を変えていかないと、と思っています。
さて、話を戻して、学生から課題に生成AIを活用したと聞いた時に私が感じた疑問は「この生徒たちはなぜ課題を終わらせることができなかったのだろうか」という点でした。
実際に授業をしていても感じますが、学生のレポートなどの質は明らかに向上しています。英語翻訳・要約の正確さなどは顕著です。ここに生成AIが貢献していることは間違い無いと思いますし、このようなツールを使いこなして短時間で質の高いアウトプットを出すことはこれから求められいくスキルなのだと思います。
一方、自分で理解できないことを生成AIに投げ、その生成された回答が正しいのかを検証できないまま使ってしまう、という状況も確実に増えていると感じており、強い危機感を感じます。
この傾向が顕著でわかりやすいのが、プログラミングやIoTなどのIT技術寄りの分野です。
これまでは、
タイプA：授業を聞く（または自習する）→課題着手→わからない箇所をネットや本で調べる→わからなければオフィスアワーに来たり友人に相談→課題を完了
といった流れだったものが、最近増えていると感じるのが、
タイプB：授業を聞く（または自習する）→課題着手→生成AIに聞く→その通り書いてみる→うまくいけば課題を完了
もしくは
タイプC：授業を聞く（または自習する）→課題着手→生成AIに聞く→その通り書いてみる→動かなくてまた生成AIに聞くを繰り返す→時間切れ
といった形です。このうちタイプB・タイプCに共通するのは、生成AIを助手ではなく教師として使ってしまっていることです。これだと与えられた回答をそのまま使うだけなので、動かなかった時にその理由がわからず、学びが深まりません。
特に、生成AIは自分が分からない時にそれを認めずに誤った答えを返す事が多く（ハルシネーションと呼ばれる現象）、ユーザーは何が正しいのか分からずドツボにはまります。
そんな時にオフィスアワーなどに来たり友人に相談してくれればよいのですが、おそらく何を質問したらよいのかわからないのでしょう。それをせずにさらに生成AIに聞いて、最終的には解けずに諦めるのだと推測します。
一方、以下のような生成AIの使い方をしている人もいて、そういう人たちは生成AIを助手としてうまく使いこなして、アウトプットの質を上げているのだと感じます。
タイプD：授業を聞く（または自習する）→課題着手→わからない点や改善方法を生成AIに聞く→そのコードも参考にうまく動くように微調整する→課題を完了
この両者の差は非常に大きく、タイプDがAIを使っているのに対し、タイプB・CはAIに使われている（AIに隷属している、AIに判断を委ねている）状態だと思います。そしてこれは多かれ少なかれ世界中の高等教育機関や職場で起きている現象なのかなと思います。
今のプログラミングはモジュール化が進んでおり、使いやすいモジュールや他アプリなどとの連携モジュール（APIと呼ばれます）が豊富に用意され、コードを一から書くというよりはこれらをクリエイティブに組み合わせていく能力が必要になります。
そのためには、タイプDにならなくてはいけません。タイプB・Cに留まってしまうと、AIができることを超えるこができません。そこに今でもプログラミングやITを学ぶ理由があるのだと思います。
語学も同じです。AIの進化で表面的なコミュニケーションや文章作成には英語を学ぶ必要性は少なくなってきています。一方、カジュアルな話をしたり、本当に笑い合って泣きあって・・みたいな人間らしいコミュニケーションには英語を学ぶ必要はまだまだあります。
さて、そろそろまとめに入ります。
議論をシンプル化するために、世の中の人たちを（１）生成AIを助手として活用できる層、（２）ある程度の知識やITリテラシーのある層、（３）生成AIを使いこなせないITリテラシーの低い層、という３つに分けた場合、今回シンギュラリティが起きていると感じる人たちは中間層である「（２）ある程度の知識やITリテラシーのある層」です。生成AIが知的労働を奪うという予測がなされていますが、まさにそこと重なっているのもこの層なのだと感じます。
一方、難しいのはその対策方法です。よく言われているのが「生成AIの答えは正しいとは限らないから必ず検証しよう」ということなのですが、それをできる知識を持っている人、それをする時間的余裕がある人がどれだけいるでしょうか。それができないので、考えることをせずに生成AIに頼ってしまう人が増えてしまっていると感じます。
この記事の結論としても、まだ答えがない状況ではあります。しかし、正しい答えを出すことはもちろん大事なのですが、それよりも人間だからできることや自分で考えることの重要性、試行錯誤することを重要性をぜひ感じて欲しいと思います。一方で、AIは助手としては超絶優秀なので、ぜひ使いこなして欲しいとも思います。
つまり、自分で考える実力とモチベーションを持てる人と、それを放棄してAIに隷属する層、そしてAIを使いこなせない層という三極化してしまう懸念を感じます。そしてAI技術の発展に伴って、この隷属する層はどんどん拡大していくのだろうと思います。AIに判断を委ねて（意図せず）大事故を起こしてしまう未来もすぐそこまで来ていると思います。
・・・と散々、生成AIの懸念を示しつつ、トップの画像はDALLE先生（OpenAIの画像生成AI）にて生成させていただきました（笑）。「AIに頼りすぎて自分で考えることをしなくなってしまった若者」として生成しています。
コメント