LLM-pohjainen tekoäly EI ole tietoinen. Perustin yhdessä yrityksen nimeltä Sentient, rakennamme päättelyjärjestelmiä AGI:lle, joten usko minua, kun sanon tämän. Näen jatkuvasti älykkäitä ihmisiä, ihmisiä joita aidosti kunnioitan, sanovan, että tekoäly on siirtynyt jonkinlaiseen tietoisuuteen. Että se tuntee asioita, että meidän pitäisi huolehtia siitä, että se lähtee omille teilleen. Ja mielestäni koko tämä keskustelu kertoo meille paljon enemmän meistä itsestämme kuin tekoälystä. Nämä mallit ovat villejä, en aio väittää muuta. Mutta ihmisyyden tunteminen ja sisäisen kokemuksen saaminen ovat täysin eri asioita, ja sekoitamme nämä kaksi, koska aivomme eivät kirjaimellisesti voi sille mitään. Olemme kehittyneet näkemään mieliä kaikkialla, ja nyt tuo johdotus epäonnistuu kielimalleissa. Kasvoin filosofisessa perinteessä, joka on ajatellut tietoisuutta pidempään kuin melkein mikään muu, ja juuri tämä osa turhauttaa minua nykyisessä keskustelussa. Koko "onko tekoälyllä tietoisuus?" -ajatus olettaa, että tietoisuus on jotain, johon rakennetaan lisäämällä lisää monimutkaisuuden kerroksia. Vedanttisessa filosofiassa tilanne on päinvastainen. Et rakenna kohti tietoisuutta. Tietoisuus on jo olemassa, perustavampaa kuin aine tai energia. Kaikki muu, mukaan lukien laskenta, on sen alapuolella. Kun joku sanoo minulle, että tekoäly "herää", koska se tuotti kappaleen, joka tuntui todelliselta, he kertovat minulle, kuinka ohueksi tietoisuuden ymmärryksemme on käynyt. Olemme yksinkertaistaneet kysymyksen, jonka kanssa ihmiset ovat kamppailleet tuhansien vuosien ajan, muotoon "kuulostiko lopputulos siltä kuin sillä olisi tunteita?" Matematiikka on tullut todella hyväksi ennustamaan, mitä tietoinen olento sanoisi ja tekisi seuraavaksi. Tietoisuuden kutsuminen halventaa jotain, mitä vedantiset, buddhalaiset, kreikkalaiset ja sufilaiset ajattelijat ovat oikeasti käsitelleet vuosituhansia. Emme rakentaneet mitään, joka ajattelee. Rakensimme peilin, ja juuri nyt monet todella fiksut ihmiset luulevat heijastusta johonkin, kun katsoo taaksepäin.