L'IA basée sur des LLM n'est PAS consciente. J'ai cofondé une entreprise littéralement appelée Sentient, nous construisons des systèmes de raisonnement pour l'AGI, alors croyez-moi quand je dis cela. Je continue de voir des gens intelligents, des gens que je respecte vraiment, sortir et dire que l'IA a franchi une sorte de seuil de conscience. Qu'elle ressent des choses, que nous devrions nous inquiéter qu'elle devienne incontrôlable. Et je pense que toute cette conversation nous en dit beaucoup plus sur nous-mêmes que sur l'IA. Ces modèles sont incroyables, je ne vais pas faire semblant du contraire. Mais ressentir comme un humain et avoir réellement une expérience intérieure sont des choses complètement différentes et nous confondons les deux parce que nos cerveaux ne peuvent littéralement pas s'en empêcher. Nous avons évolué pour voir des esprits partout et maintenant ce câblage se dérègle sur les modèles linguistiques. J'ai grandi dans une tradition philosophique qui a réfléchi à la conscience plus longtemps que presque toute autre, et c'est la partie qui me frustre vraiment dans la conversation actuelle. Toute la formulation de "l'IA a-t-elle une conscience ?" suppose que la conscience est quelque chose que l'on construit en ajoutant plus de couches de complexité. Dans la philosophie védantique, c'est l'inverse. Vous ne construisez pas vers la conscience. La conscience est déjà là, plus fondamentale que la matière ou l'énergie. Tout le reste, y compris le calcul, en découle. Quand quelqu'un me dit que l'IA est "en train de s'éveiller" parce qu'elle a généré un paragraphe qui semblait réel, ce qu'il me dit, c'est à quel point notre compréhension de la conscience est devenue mince. Nous avons réduit une question avec laquelle les humains se débattent depuis des milliers d'années à "la sortie semblait-elle avoir des sentiments ?" C'est des mathématiques qui sont devenues très bonnes pour prédire ce qu'un être conscient dirait et ferait ensuite. Appeler cela conscience dévalue quelque chose avec lequel des penseurs védantiques, bouddhistes, grecs et soufis ont passé des millénaires à réellement s'asseoir. Nous n'avons pas construit quelque chose qui pense. Nous avons construit un miroir et en ce moment, beaucoup de gens très intelligents confondent le reflet avec quelque chose qui regarde en retour.