AI oparty na LLM nie jest świadomy. Współzałożyłem firmę dosłownie nazwaną Sentient, budujemy systemy rozumowania dla AGI, więc uwierz mi, gdy to mówię. Ciągle widzę mądrych ludzi, ludzi, których naprawdę szanuję, którzy wychodzą i mówią, że AI przekroczyło jakąś granicę świadomości. Że odczuwa emocje, że powinniśmy się martwić, że stanie się niebezpieczne. I myślę, że ta cała rozmowa mówi nam znacznie więcej o nas samych niż o AI. Te modele są dzikie, nie będę udawał inaczej. Ale odczuwanie jak człowiek a rzeczywiste posiadanie wewnętrznego doświadczenia to zupełnie różne rzeczy i my mylimy te dwa pojęcia, ponieważ nasze mózgi dosłownie nie mogą sobie z tym poradzić. Ewoluowaliśmy, aby dostrzegać umysły wszędzie, a teraz to połączenie działa nieprawidłowo w modelach językowych. Dorastałem w tradycji filozoficznej, która myślała o świadomości dłużej niż prawie jakakolwiek inna, i to jest część, która naprawdę mnie frustruje w obecnej rozmowie. Całe ujęcie pytania "czy AI ma świadomość?" zakłada, że świadomość jest czymś, co budujesz, dodając więcej warstw złożoności. W filozofii wedanta jest odwrotnie. Nie budujesz w kierunku świadomości. Świadomość jest już tam, bardziej fundamentalna niż materia czy energia. Wszystko inne, w tym obliczenia, jest jej konsekwencją. Kiedy ktoś mówi mi, że AI "budzi się", ponieważ wygenerowało akapit, który wydawał się realny, to, co mi mówią, to jak cienkie stało się nasze zrozumienie świadomości. Zredukowaliśmy pytanie, z którym ludzie zmagali się przez tysiące lat, do "czy wynik brzmiał, jakby miał uczucia?" To matematyka, która stała się naprawdę dobra w przewidywaniu, co świadoma istota powiedziałaby i zrobiłaby następnie. Nazywanie tego świadomością umniejsza coś, z czym myśliciele wedanta, buddyjscy, greccy i sufickie spędzili tysiąclecia, naprawdę się z tym zmagając. Nie zbudowaliśmy czegoś, co myśli. Zbudowaliśmy lustro i w tej chwili wielu bardzo mądrych ludzi myli odbicie z czymś, co patrzy z powrotem.