¿Pueden los LLM ser computadoras PROBABLES? Percepta demostró que un transformador puede SER una computadora. Pesos compilados, ejecución determinista, 30k tokens/seg. Pero nadie preguntó la obvia pregunta de seguimiento: ¿cómo sabes que computó correctamente? Así que construí la capa de verificación. Un STARK que lo prueba 👇
Christos Tzamos
Christos Tzamos12 mar, 05:30
1/4 Los LLMs resuelven problemas matemáticos de grado de investigación pero tienen dificultades con cálculos básicos. Cerramos esta brecha convirtiéndolos en computadoras. Construimos una computadora DENTRO de un transformador que puede ejecutar programas durante millones de pasos en segundos, resolviendo incluso los Sudokus más difíciles con un 100% de precisión.
El problema con la computación compilada es la confianza. Confías en el compilador. Confías en el tiempo de ejecución. Confías en el mecanismo de atención. Si alguno de estos es incorrecto, la salida es incorrecta. Este es el problema más antiguo en la computación. O confías en la máquina o verificas la salida. Construimos tres niveles de verificación: Nivel 1: El programa se ejecuta dentro del transformador (igual que Percepta) Nivel 2: Cuatro motores independientes producen el mismo resultado (transformador, nativo, Burn, ONNX) Nivel 3: Una prueba STARK verifica la ejecución sin volver a ejecutarla
86