閲覧記事記事一覧へ

ChatGPTはなぜバカになるのか

先日、Youtubeを眺めていたら、「ChatGPT倒産危機」といった内容の動画が目にとまった。

その動画によると、ChatGPTは1日当たり約1億円もの維持費が掛かっており、採算が取れていないという。ユーザーの数も今年の6月には17億人を突破したが、その後1ヶ月も経たないうちに15億人まで減少し、今も離脱が続いているとのこと。

離脱が続いている理由は、ChatGPTが以前より馬鹿になっているからだそうだ。本来はユーザーが増えれば蓄積される情報も増えるので、利口になっていくと思われるのだが、逆に馬鹿になっていくらしい。実際、あるハッカーが、9+10は21であると学習させた結果、最初はそれを否定していたが、説得し続けたところ、最終的には9+10は21と答えるようになったという。Hackers Trick AI With ‘Bad Math’ to Expose Flaws and Biases (1)

なぜAIが馬鹿になっていくのか、私はなんとなく思い当たることがある。

人間とAIの大きな違いは何か。いろいろあると思うが、その一つは「自分なりの価値観」「哲学」といったものをAIは持っていないということだと思う。たとえば、情報をもとに何らかの決断や判断をするとき、人間の場合はすべての情報を均等に扱わず、自分なりの価値観に基づいて情報を取捨選択している。ところがAIの場合は、そうした自分なりの価値観のようなものを持っていないから、取捨選択せずにすべての情報を均等に扱う。

さらにAIは、それらの情報が正しいかどうかを、エビデンスの有無で判断しているのだと思う。しかし、このエビデンスというのは私に言わせれば、あまりアテにならない。主張したい内容に合わせて無理やりにでも揃えることができるからだ。9+10は21であるといった、あり得ない主張にも、無理やりエビデンスを揃えることはできてしまうと思う。

私は、ものごとはエビデンスがあったとしても、それが正しいとは断定できないこともあると思う。多くの人はそれを知っていて、だからこそ、断定的な物言いをする人を見ると抵抗を感じるのではないか。でもAIにとっては、そういう感覚がないから、エビデンスさえ揃っていれば正しいと捉えてしまう。そしてそれらを集め融合しようとしたとき、どこかで矛盾が生じ、辻褄が合わなくなって、賢くなるどころか混乱し馬鹿になっていく。

私は、ChatGPTが馬鹿になっていく理由は、哲学がないこと、言い方を変えれば、演繹的思考ができないことではないかと思うのですが、いかがでしょうか。ただ、哲学を持つことができたら、それはそれでまた大きな問題を生みそうです。いずれにしても、AIの発展がこの課題を超えるには、大きな壁がありそうです。


関連記事

2020年03月26日(木)

コロナ危機は人類にとってどんな意味があるのか

このコロナ危機は人類にとってどういう意味があるのか。それを理解することがこのコロナ危機を解決するキーになる。

続きを読む
2014年03月31日(月)

アイデアの源泉

良いアイデアや斬新な発想力は仕事をしてゆく上で言うまでもなく大切なものです。この社会は過去に誰かがどこかで発案したアイデアの蓄積でつくられてきたと言っても過言…

続きを読む
2014年04月04日(金)

思い込みのフィルタ

私たちが創造的な仕事をしてゆく上で、1つ理解しておかなければならないことがあります。それは「思い込み」についてです。私たちはあらゆることを認識しながら生きてい…

続きを読む
2021年01月07日(木)

年頭にあたり ~ジョブ型雇用と日本人~

日本の大手企業がこのところ相次いで「ジョブ型」と呼ばれる雇用制度を導入している。コロナウイルスの感染防止のため、リモートワークをする人たちが増えたからだ。

続きを読む
2021年08月20日(金)

ワクチンについて思うこと

続きを読む