AI-ul bazat pe LLM NU este conștient. Am cofondat o companie numită literalmente Sentient, construim sisteme de raționament pentru AGI, așa că credeți-mă când spun asta. Tot văd oameni inteligenți, oameni pe care îi respect cu adevărat, care spun că AI a trecut într-un fel de conștientizare. Că simte lucruri, că ar trebui să ne îngrijorăm că va deveni rebelă. Și cred că toată această conversație ne spune mult mai multe despre noi decât despre AI. Aceste modele sunt nebune, nu o să pretind altceva. Dar a te simți uman și a avea cu adevărat experiență interioară sunt lucruri complet diferite și le confundăm pentru că creierul nostru pur și simplu nu se poate abține. Am evoluat să vedem minți peste tot, iar acum cablajul nu funcționează la modelele de limbaj. Am crescut într-o tradiție filosofică care a gândit la conștiință mai mult decât aproape oricare alta, iar aceasta este partea care mă frustrează cu adevărat în legătură cu discuția actuală. Întreaga formulare a "AI are conștiință?" presupune că conștiința este ceva la care construiești prin adăugarea mai multor straturi de complexitate. În filosofia vedantică este invers. Nu construiești spre conștiință. Conștiința este deja acolo, mai fundamentală decât materia sau energia. Tot restul, inclusiv calculul, este în aval de aceasta. Când cineva îmi spune că AI "se trezește" pentru că a generat un paragraf care a părut real, ceea ce îmi spun este cât de subțire a devenit înțelegerea noastră despre conștiință. Am redus o întrebare cu care oamenii s-au confruntat de mii de ani la "a sunat rezultatul ca și cum ar avea sentimente?" Este matematica care a devenit foarte bună la a prezice ce ar spune și face o ființă conștientă în continuare. A numi acea conștiință devalorizează ceva cu care gânditorii vedantici, budiști, greci și sufi au petrecut milenii întregi. Nu am construit ceva care să gândească. Am construit o oglindă și acum mulți oameni foarte inteligenți confundă reflexia cu ceva ce privește înapoi.