■生成AIの限界がどこにあるか：ゲイリー・クライン『「洞察力」が あらゆる問題を解決する』を参考に

１　生成AIの利用拡大

生成AIの利用が、現実に影響を与えてきています。検索をして、何かを調べることをせずに、生成AIに質問をして、その答えだけで終わりにしてしまう人が、めずらしくなくなってきました。質問に対して、答えは一つ。完結した文章だけを読めば終わりです。

これが人間の能力に良い影響を与えるかどうか、予測は簡単なように思います。生成AIに頼るほど、人間の能力が向上していくことなど考えられません。しかし利用が減るとは思えないでしょう。もっと性能が向上していくでしょうから、利用が拡大するはずです。

生成AIの性能が向上するにともなっ、より的確な回答が出されてくるようになってきました。以前は使い物にならなかったものが、実際に使えるのですから、今後に期待を持たせることにもなります。では、どこまでの改善、発展が期待できるのでしょうか。

２　ＩＴシステムの４つのガイドライン

ゲイリー・クラインは2013年刊の『「洞察力」が あらゆる問題を解決する』で、「ＩＴは人間の問題解決を支援できるのか？」について考察していました。４つの基本的なガイドラインを選んで、それらのガイドラインが問題解決に役立つかを論じています。

【１】ＩＴシステムは、作業の効率をより一層向上させてくれるはずである
【２】ＩＴシステムは、重要な手がかりを明確に表示してくれるはずである
【３】ＩＴシステムは、無関係なデータをフィルターにかけて処理するはずである
【４】ＩＴシステムは、人が目的に向かって進行していることを管理してくれるはずである

クラインはまず、［作業内容が変更されるのならば、そのＩＴシステムはもう適用できない］(p.185)点を指摘しています。問題解決のために設定していた作業内容が使えないと判断されれば、作業内容を変えなくてはなりません。システムの変更が必要です。

３　洞察力の前提となる秩序・構造の変化

前提の変更をすることによって、問題が解決されていきます。問題解決には、予測に基づいて方針の変更がなされるのが普通です。システムが問題解決の中心的な役割を果たすためには、方針変更に伴ってシステム自体が自在に変われなくては使えません。

良いアイデアがあって、データの利用目的が変わったなら、データベースの構造まで変わります。従来のデータベースを使うことが障害になる可能性があるのです。先の作業内容の変更や、利用目的の変更があったなら、効率化も手がかりの表示も期待できません。

ＩＴシステムが行うデータの選択に依存することもリスクがあります。システムができることは、一定の範囲内での効果にすぎません。作業過程が再構成されれば、システム自体を作り直すことになります。前提となる作業過程の見直しは必要不可欠なものです。

クラインは、［ＩＴのガイドラインのそれぞれは、秩序性とシステム構造に依存したもの］(p.189)になっているが、洞察力というのは無秩序なものであると指摘しています。前提となる秩序や構造が変化した場合に、対応できる生成AIはまだできていません。