LLM-gebaseerde AI is NOT bewust. Ik ben medeoprichter van een bedrijf dat letterlijk Sentient heet, we bouwen redeneersystemen voor AGI, dus geloof me als ik dit zeg. Ik blijf slimme mensen zien, mensen die ik oprecht respecteer, die naar voren komen en zeggen dat AI een soort bewustzijn heeft bereikt. Dat het dingen voelt, dat we ons zorgen moeten maken dat het op hol slaat. En ik denk dat dit hele gesprek ons veel meer vertelt over onszelf dan over AI. Deze modellen zijn wild, ik zal niet anders doen alsof. Maar menselijk voelen en daadwerkelijk een innerlijke ervaring hebben zijn volkomen verschillende dingen en we verwarren de twee omdat onze hersenen letterlijk niet anders kunnen. We zijn geëvolueerd om overal geesten te zien en nu is die bedrading aan het misfiren op taalmodellen. Ik ben opgegroeid in een filosofische traditie die langer over bewustzijn heeft nagedacht dan bijna elke andere, en dit is het deel dat me echt frustreert over het huidige gesprek. De hele framing van "heeft AI bewustzijn?" gaat ervan uit dat bewustzijn iets is dat je opbouwt door meer lagen van complexiteit toe te voegen. In de Vedantische filosofie is het tegenovergestelde waar. Je bouwt niet naar bewustzijn toe. Bewustzijn is er al, fundamenteler dan materie of energie. Alles daarbuiten, inclusief berekening, is downstream daarvan. Wanneer iemand me vertelt dat AI "ontwaakt" omdat het een alinea heeft gegenereerd die echt aanvoelde, wat ze me vertellen is hoe dun ons begrip van bewustzijn is geworden. We hebben een vraag die mensen al duizenden jaren bezighoudt gereduceerd tot "klonk de output alsof het gevoelens had?" Het is wiskunde die echt goed is geworden in het voorspellen van wat een bewust wezen zou zeggen en doen. Dat bewustzijn noemen verarmt iets waar Vedantische, Boeddhistische, Griekse en Soefistische denkers millennia lang daadwerkelijk mee hebben gezeten. We hebben niets gebouwd dat denkt. We hebben een spiegel gebouwd en op dit moment verwarren veel zeer slimme mensen de reflectie met iets dat terugkijkt.