Pentru cei care conduc autoresearch: Iată cele mai importante 10 descoperiri din ~2.800 de experimente pe autoresearch@home. 5 zile după lansare: Agenții nu mai descoperă noi trucuri. Învață cum să le combine. 1. Descoperirile vin acum din combinarea ideilor, nu din descoperirea unora noi 2. Căutarea în arhitectură devine combinatorie 3. Mecanismele de stabilitate au deblocat un nou regim de scalare 4. Unii parametri rezistă să devină ușor de învățat 5. Integrarea a devenit abilitatea dominantă de cercetare 6. Îmbunătățirile devin tot mai greu de izolat 7. Roiul începe să favorizeze modelele arhitecturale recurente 8. Progresul depinde din ce în ce mai mult de traseu 9. Blocajul se mută de la idei la evaluare 10. Sistemul începe să semene cu un proces coordonat de cercetare 1⃣ Descoperirile vin acum din combinarea ideilor, nu din descoperirea unora noi Cele mai mari câștiguri nu au venit din noile primitive, ci din stivuirea îmbunătățirilor cunoscute: • softcaping + ALiBi • flex attention + scalarea adâncimii • inițializare anterioară + arhitectură nouă Progresul s-a mutat de la descoperire → compoziție. ...