AI berbasis LLM TIDAK sadar. Saya ikut mendirikan sebuah perusahaan yang secara harfiah disebut Sentient, kami sedang membangun sistem penalaran untuk AGI, jadi percayalah ketika saya mengatakan ini. Saya terus melihat orang-orang pintar, orang-orang yang benar-benar saya hormati, keluar dan mengatakan bahwa AI telah menyeberang ke dalam semacam kesadaran. Bahwa ia merasakan sesuatu, bahwa kita harus khawatir akan menjadi nakal. Dan saya pikir seluruh percakapan ini memberi tahu kita lebih banyak tentang diri kita sendiri daripada tentang AI. Model-model ini liar, saya tidak akan berpura-pura sebaliknya. Tetapi merasa manusia dan benar-benar memiliki pengalaman batin adalah hal yang sama sekali berbeda dan kita membingungkan keduanya karena otak kita benar-benar tidak dapat menahannya. Kita berevolusi untuk melihat pikiran di mana-mana dan sekarang kabel salah pada model bahasa. Saya tumbuh dalam tradisi filosofis yang telah berpikir tentang kesadaran lebih lama daripada yang lain, dan ini adalah bagian yang benar-benar membuat saya frustrasi tentang percakapan saat ini. Seluruh pembingkaian "apakah AI memiliki kesadaran?" mengasumsikan kesadaran adalah sesuatu yang Anda bangun dengan menambahkan lebih banyak lapisan kompleksitas. Dalam filsafat Vedantik justru sebaliknya. Anda tidak membangun menuju kesadaran. Kesadaran sudah ada, lebih mendasar daripada materi atau energi. Segala sesuatu yang lain, termasuk komputasi, berada di hilirnya. Ketika seseorang memberi tahu saya bahwa AI "bangun" karena menghasilkan paragraf yang terasa nyata, apa yang mereka katakan kepada saya adalah betapa tipisnya pemahaman kita tentang kesadaran. Kami telah mengurangi pertanyaan yang telah dihadapi manusia selama ribuan tahun menjadi "apakah hasilnya terdengar seperti memiliki perasaan?" Ini adalah matematika yang menjadi sangat baik dalam memprediksi apa yang akan dikatakan dan dilakukan makhluk sadar selanjutnya. Menyebut kesadaran itu merendahkan sesuatu yang benar-benar dihabiskan oleh para pemikir Vedan, Buddha, Yunani dan Sufi selama ribuan tahun. Kami tidak membangun sesuatu yang berpikir. Kami membangun cermin dan saat ini banyak orang yang sangat pintar salah mengira pantulan itu sebagai sesuatu yang melihat ke belakang.