前項で考察したように、生成AIを動かす本質が人間側の問題定義力にあるとするならば、その対話のプロセスにおいて次に求められることは、提示された回答を精査する力である。しかし世間を見渡せば、このような能動的な姿勢とは真逆の期待が語られることが多い。すなわち、生成AIは人間の知能を代替し、私たちを思考の重労働から解放してくれる道具であるという言説である。提示された回答をそのまま利用すれば、業務の効率化は容易に達成され、正解に到達するための労力を大幅に削減できるという見方が一般的であるが、現実はそれほど単純ではない。

　かつて私が生成AIと対話していた時、画面に示された完成度の高い回答を前にして、ある種の奇妙な感覚に囚われたことがある。その文章はきわめて論理的に整合しているように見え、そのままビジネスの現場や報告書で利用しても、誰も異論を唱えないであろう水準に達していた。しかし、私はそこで思考を停止させず、「その議論の前提は本当に妥当か」「因果関係と相関関係を混同していないか」「他の理論の視点からはどう説明されるか」と、あえて疑いの目を向けて問い詰めてみた。

　その検証の過程で直面したことは、生成AIの回答の不完全さではなく、自分自身の思考の浅さであった。一見完璧に見える回答を前にして、「提示された議論のどこを疑えばよいか分からない」「何が欠落しているかを的確に指摘できない」という自分自身の限界にぶつかったのである。生成AIとの対話は、生成AIの性能を試しているようでいて、その実、人間側の「無知の輪郭」を正確に測定しているのである。

　この経験が意味するところは明確だ。生成AIが代替しているのは知能そのものではなく、知識検索や要約、分類といった機能に過ぎない。問題設定や価値判断、目標設定、そして提示された知の評価基準を設計することは、依然として人間にしか担えない。なぜなら、生成AIには「身体性」が存在しないからである。

　生成AIは自らの出力に対して後悔することも反省することもない。過ちによるリスクを負うことも、社会的責任を引き受けることもない。それらはすべて、有限の時間を生き、痛みを伴う身体を持つ人間にしか不可能な営みである。提示された出力を鵜呑みにしてそのまま利用することは、自ら考えること、すなわち人間にしか担えない責任を放棄することに他ならない。したがって、私たちが今向き合うべきは、高度な道具によって初めて鮮明に可視化された、この「批判的思考力」という主体的な能力の再発見である。

　世間では、生成AIの登場によって勉強や知識の獲得は不要になる、という見方もある。だが、現実は皮肉にも、知識や概念枠組みを持たない人ほど生成AIの提示する教科書的な回答を信頼するしかなく、生成AIを使いこなす人ほど、その前提を疑い、制度的・理論的要因を突きつけて未知の洞察を引き出しているのだ。電卓の普及が数学を不要にしなかったように、生成AIの普及は、提示された正解らしきものを批判的に検証できる人と、そうでない人との間の知の格差をさらに拡大させるであろう。 生成AIが提示する正解らしきものをそのまま消費するだけでは、道具に使われる状態から抜け出すことはできない。提示された回答を素材として自らの思考をさらに深めるための足がかりにしてこそ、この道具の真価が発揮される。生成AIという鏡を前にした時、問われているのは生成AIの性能ではなく、人間側の思考の限界である。