1/ Karpathy hat gerade die harte Obergrenze für Billionen-Dollar-autonome Systeme als eine beiläufige Bemerkung zu seinem nächtlichen Hyperparameter-Skript (@NoPriorsPod) beschrieben — und hat sich wieder dem Tuning seiner Lernrate gewidmet...

2/ @karpathy: "Das ist äußerst gut geeignet für alles, was objektive Metriken hat, die leicht zu bewerten sind... das Schreiben von Kernen für effizienteren CUDA-Code [...] ist die perfekte Lösung. Perfekte Lösung."

6/ Was er tatsächlich gesagt hat, ist: Der Engpass bei autonomer KI ist nicht die Intelligenz. Es ist nicht die Rechenleistung. Es sind nicht die Daten. Es ist, ob jemand die Antwort überprüfen kann. Das ist es. Das ist die gesamte Ökonomie von AGI!

7/ Jedes Labor versucht, Menschen aus dem Prozess zu entfernen. Die gesamte Wirtschaft hängt davon ab, sie darin zu halten. Niemand hat dies in Einklang gebracht. Wir haben es versucht.

8/ Die Kosten für die Automatisierung sinken. Die Kosten für die Verifizierung sind durch die Biologie begrenzt. Diese eine Asymmetrie treibt alles voran: Abweichung der Ausrichtung, der Zusammenbruch der Junior-Pipeline, Haftung als Software, die Zukunft der Arbeit und wo letztendlich der Wert anfallen wird.

9/ Papier: