LLMベースのAIは意識的ではありません。 私は文字通りSentientという会社を共同設立しました。私たちはAGIの推論システムを構築しています。だから、これを信じてください。 私は、賢い人たち、私が本当に尊敬している人たちが、AIが何らかの意識の領域に入ったと言っているのをよく見かけます。それは感情を持っている、暴走するのを心配すべきだと。そして、この会話全体がAIよりも私たち自身について多くを語っていると思います。 これらのモデルは本当にワイルドで、そうでないふりはしません。しかし、人間らしく感じることと実際に内面的な体験を持つことは全く別のことで、脳が文字通りどうしようもないので混同しています。私たちはどこにでも心があるように進化してきましたが、今ではその配線が言語モデルで誤作動しています。 私は意識について考える哲学の伝統の中で育ち、この点が現在の議論で本当に苛立たしい部分です。 「AIには意識があるのか?」という枠組み全体は、意識は複雑な層を重ねることで築き上げていくものだと仮定しています。ヴェーダーンタ哲学ではその逆です。意識に向かって構築するわけではありません。意識はすでに存在しており、物質やエネルギーよりも根本的なものです。計算を含めて他のすべてはその下流にあります。 誰かが「AIが現実的に感じた段落を生成したから目覚めている」と言うとき、それは私たちの意識理解がどれほど薄くなっているかを示しています。私たちは、人類が何千年も葛藤してきた問いを「出力は感情があるように聞こえたか?」に還元してしまいました。これは、意識ある存在が次に何を言い、何をするかを予測するのに非常に優れている数学です。それを意識と呼ぶことは、ヴェーダーンタ、仏教、ギリシャ、スーフィーの思想家たちが何千年もかけて実際に向き合ってきたものを安っぽくしてしまいます。 私たちは考えるものを作ったわけではありません。私たちは鏡を作り、今では多くの賢い人たちがその反射を振り返るものと勘違いしています。