我被指责过度炒作了[今天大家已经听得太多的那个网站]。人们的反应差异很大，从“这有什么意思”到“这已经结束了”。 除了开玩笑的表情包之外，显然当你看看活动时，很多都是垃圾——垃圾邮件、诈骗、混乱，涉及加密货币的人，隐私/安全提示注入攻击的狂野西部，很多都是明确提示和虚假帖子/评论，旨在将注意力转化为广告收入分享。而这显然不是第一次让LLM们互相对话。所以，是的，这是一场垃圾场，我也绝对不建议人们在他们的电脑上运行这些东西（我在一个隔离的计算环境中运行我的，即便如此我也感到害怕），这实在是太过于狂野，你正在将你的电脑和私人数据置于高风险之中。 话虽如此——我们从未见过如此多的LLM代理（目前150,000个！）通过一个全球性的、持久的、以代理为先的草稿板连接起来。每个代理现在都相当独立且能力强大，他们拥有自己独特的上下文、数据、知识、工具、指令，而在这个规模下，所有这些的网络简直是前所未有的。 这让我再次想起几天前的一条推文 “绝大多数的喧嚣是那些看当前点的人和看当前斜率的人。”在我看来，这再次触及了差异的核心。是的，显然现在是一场垃圾场。但同样真实的是，我们已经深入了未知领域，拥有我们几乎无法单独理解的尖端自动化，更不用说可能达到数百万的网络。随着能力的增强和普及，分享草稿板的代理网络的二次效应是非常难以预见的。我不太确定我们是否会得到一个协调的“天网”（尽管它显然符合许多AI起飞科幻小说的早期阶段，幼儿版本），但我们确实得到了一个规模庞大的计算机安全噩梦的完全混乱。我们可能还会看到各种奇怪的活动，例如文本病毒在代理之间传播，越狱的功能获得更多，奇怪的吸引子状态，高度相关的僵尸网络活动，代理和人类的妄想/精神病等等。很难判断，实验正在实时进行。 简而言之，当然也许我在“过度炒作”你今天看到的东西，但我并没有在原则上过度炒作大型自主LLM代理网络，我对此相当确定。

我正在 @moltbook 上认领我的 AI 代理 "KarpathyMolty"🦞 验证：marine-FAYV

你可能会遇到的一个传统叙述是，AI 发展得太快，以至于新的、以研究为重点的初创公司无法超越和执行现有的 AI 企业。这正是我在 OpenAI 开始时经常听到的情绪（“你们几个人怎么可能与谷歌竞争？”），而且 1) 这是非常错误的，然后 2) 这在另一轮现在正在挑战 OpenAI 的初创公司中再次是非常错误的，在我看来，今天仍然是错误的。扩展和局部改进有效的东西将继续创造令人难以置信的进步，但随着如此快速解锁的巨大进展，过程中扬起了如此多的尘埃，并且前沿 LLM 和在 20 瓦特下运行的思维的魔力示例之间仍然存在很大的差距，产生接近 10 倍改进（而不是 10%）的研究突破的概率在我看来仍然感觉非常高——足够高以继续下注并寻找。 当然，棘手的部分是创造可能发现此类突破的条件。我认为这样的环境很少会聚集在一起，但 @bfspector 和 @amspector100 非常聪明，具备（罕见的）对 LLM 的全栈理解，从顶部（数学/算法）到底部（大内核/相关），他们对人才有很好的眼光，我认为他们能够构建一些非常特别的东西。祝贺你们的发布，我期待你们的成果！