閲覧記事記事一覧へ

ChatGPTはなぜバカになるのか

先日、Youtubeを眺めていたら、「ChatGPT倒産危機」といった内容の動画が目にとまった。

その動画によると、ChatGPTは1日当たり約1億円もの維持費が掛かっており、採算が取れていないという。ユーザーの数も今年の6月には17億人を突破したが、その後1ヶ月も経たないうちに15億人まで減少し、今も離脱が続いているとのこと。

離脱が続いている理由は、ChatGPTが以前より馬鹿になっているからだそうだ。本来はユーザーが増えれば蓄積される情報も増えるので、利口になっていくと思われるのだが、逆に馬鹿になっていくらしい。実際、あるハッカーが、9+10は21であると学習させた結果、最初はそれを否定していたが、説得し続けたところ、最終的には9+10は21と答えるようになったという。Hackers Trick AI With ‘Bad Math’ to Expose Flaws and Biases (1)

なぜAIが馬鹿になっていくのか、私はなんとなく思い当たることがある。

人間とAIの大きな違いは何か。いろいろあると思うが、その一つは「自分なりの価値観」「哲学」といったものをAIは持っていないということだと思う。たとえば、情報をもとに何らかの決断や判断をするとき、人間の場合はすべての情報を均等に扱わず、自分なりの価値観に基づいて情報を取捨選択している。ところがAIの場合は、そうした自分なりの価値観のようなものを持っていないから、取捨選択せずにすべての情報を均等に扱う。

さらにAIは、それらの情報が正しいかどうかを、エビデンスの有無で判断しているのだと思う。しかし、このエビデンスというのは私に言わせれば、あまりアテにならない。主張したい内容に合わせて無理やりにでも揃えることができるからだ。9+10は21であるといった、あり得ない主張にも、無理やりエビデンスを揃えることはできてしまうと思う。

私は、ものごとはエビデンスがあったとしても、それが正しいとは断定できないこともあると思う。多くの人はそれを知っていて、だからこそ、断定的な物言いをする人を見ると抵抗を感じるのではないか。でもAIにとっては、そういう感覚がないから、エビデンスさえ揃っていれば正しいと捉えてしまう。そしてそれらを集め融合しようとしたとき、どこかで矛盾が生じ、辻褄が合わなくなって、賢くなるどころか混乱し馬鹿になっていく。

私は、ChatGPTが馬鹿になっていく理由は、哲学がないこと、言い方を変えれば、演繹的思考ができないことではないかと思うのですが、いかがでしょうか。ただ、哲学を持つことができたら、それはそれでまた大きな問題を生みそうです。いずれにしても、AIの発展がこの課題を超えるには、大きな壁がありそうです。


関連記事

2014年04月22日(火)

腑に落ちることと、理について

社会に限らず、この宇宙全体の事象の成り立ちには、その理(り、ことわり)となっているものがあるように思います。事象が成り立つ場合には、何かしらの理にかなっている…

続きを読む
2020年07月02日(木)

不老薬「ラパマイシン」

最近「ラパマイシン」という不老薬があるのを知りました。いろいろな不老薬がある中で最も効果が高いことが既に証明されている薬で、マウスや犬では実証済みだそうです。

続きを読む
2024年01月04日(木)

突き動かされている感覚

続きを読む
2024年10月20日(日)

「なぜ」を語る経営理念

続きを読む
2014年04月04日(金)

思い込みのフィルタ

私たちが創造的な仕事をしてゆく上で、1つ理解しておかなければならないことがあります。それは「思い込み」についてです。私たちはあらゆることを認識しながら生きてい…

続きを読む