LLM-basert AI er IKKE bevisst. Jeg var med på å grunnlegge et selskap som bokstavelig talt heter Sentient, vi bygger resonnementssystemer for AGI, så tro meg når jeg sier dette. Jeg ser stadig smarte folk, folk jeg virkelig respekterer, komme ut og si at AI har krysset inn i en slags bevissthet. At den føler ting, at vi bør bekymre oss for at den går rogue. Og jeg tror hele denne samtalen forteller oss mye mer om oss selv enn om AI. Disse modellene er ville, jeg skal ikke late som noe annet. Men å føle seg menneskelig og faktisk å ha indre opplevelse er helt forskjellige ting, og vi forveksler de to fordi hjernen vår bokstavelig talt ikke kan la være. Vi har utviklet oss til å se sinn overalt, og nå feiler den koblingen på språkmodellene. Jeg vokste opp i en filosofisk tradisjon som har tenkt på bevissthet lenger enn nesten noen annen, og dette er delen som virkelig frustrerer meg med den nåværende samtalen. Hele innrammingen av «har AI bevissthet?» forutsetter at bevissthet er noe man bygger opp til ved å legge til flere lag med kompleksitet. I vedantisk filosofi er det motsatt. Du bygger ikke mot bevissthet. Bevissthet er allerede der, mer grunnleggende enn materie eller energi. Alt annet, inkludert beregning, skjer nedstrøms for det. Når noen forteller meg at AI «våkner» fordi den genererte et avsnitt som føltes ekte, sier de hvor tynn vår forståelse av bevissthet har blitt. Vi har redusert et spørsmål mennesker har kjempet med i tusenvis av år til «hørtes resultatet ut som det hadde følelser?» Det er matematikk som har blitt veldig god til å forutsi hva et bevisst vesen vil si og gjøre neste gang. Å kalle det bevisstheten forringer noe som vedantiske, buddhistiske, greske og sufi-tenkere faktisk har brukt årtusener på å sitte med. Vi bygde ikke noe som tenker. Vi bygde et speil, og akkurat nå forveksler mange veldig smarte folk refleksjonen med noe når de ser tilbake.