AGIという言葉が至る所で叫ばれているが、人間の行動のあらゆる側面が本当にAIに置き換えられるようになるのだろうか？現時点において依然として自分は懐疑的に見ている。
例えば、ソフトウェア領域においては間もなくAIが大規模なシステムの開発プロジェクトにおけるあらゆる工程を処理できるようになるだろうと見られている。Clineに全部賭けた後にClaude Codeに賭けた人達の存在はそれを証明するかのようである。しかし、人間の発注者が真に望むシステムをAIが構築できるかどうか、自分は依然として疑問を感じている。
有名な「Tree swing cartoon」(顧客が本当に必要だったものとして日本でも有名)を思い出して欲しい。このイラストはよく知られているので、特に絵に関する説明は不要だろう。このイラストでは、「顧客の説明」は人間がAIに与える要件に対応し、「顧客が本当に必要だったもの」はAIが提供する最終的な成果物に対応している。つまり、私はAIがこのギャップを埋めることができるかどうかを疑っているわけである。
現実としては、AIの能力はほぼ確実に人間を上回るため、システム開発の中間工程、この漫画におけるプログラミング、分析、テストなどでは、人間の成果をはるかに超える結果が生み出されるだろう。AIがプロジェクト管理の役割も担うようになれば、漫画のような醜態は消えるかもしれない。しかし、「顧客が説明した要件」と「顧客が本当に必要だったもの」は、優秀なAIが開発を行うだけで本当に一致するのだろうか？
人間がAIに与える指示や要件は、常に曖昧で、誤りだらけであり、時には完全に意味不明であることもしばしばである。近い将来には高度な能力を持つAIが我々の思考や感情を読み取り、隠れたニーズを推論し、最適な結果を提供できるかもしれない。しかし、人間の根本的ミスや発注側が意図的あるいは偶然的に伝えなかった要望をAIが予測した解決策に発注者である人間は満足するのだろうか？一部の人は、AIが生成した最適であるはずの「顧客が本当に必要としていたもの」を見て、AIは無用だと不満を言うだろう。
人間は愚かな存在だ。我々はAIよりも知識が少なく、思慮深くなく、感情にすぐに左右される。さらに悪いことに一般的な多くの人々は自分たちが特別な存在だと信じる傲慢さを抱えている。この愚かさを抱えている限り、我々はAIに完全に依存することを躊躇するだろう。
それでも、AIが人間の多くの仕事を置き換えることは疑いようがない。しかし、人間が愚かさを抱えている限り、人間の手で最終的な解決と決定をやりたがるだろう。
(本稿は、https://www.linkedin.com/posts/shujisado_the-term-agi-is-being-trumpeted-everywhere-activity-7332676882892525568-lrpa/ を若干修正したもの)
Shuji Sado 