1/ Odpověď je, že to nejdeš — ne levně. Ověření, zda je článek průlomem, vyžaduje přibližně stejnou odbornost jako její vytvoření. Generace se škáluje. Ověření ne.
Dwarkesh Patel
Dwarkesh Patel21. 3. 04:00
Pokud vědci zabývající se AI píší miliony článků, z nichž mnohé jsou nekvalitní a některé jsou postupným pokrokem, jak bychom identifikovali jednoho nebo dva, kteří přijdou s mimořádně produktivním novým nápadem? V roce 1948 byl Shannon jedním ze stovek inženýrů v Bell Labs, kteří pracovali na tom, jak čistě přenášet hlasové signály přes hlučné měděné vodiče. Jeho článek byl ve stejném technickém časopise jako zprávy o snižování statické elektřiny a budování lepších filtrů. Jak byste rozpoznal, že vytvořil tento velmi obecný rámec pro uvažování o informačních a komunikačních kanálech, které v následujících desetiletích budou mít obrovské využití v oblastech tak vzdálených od sebe jako kryptografie přes genetiku až po kvantovou mechaniku? Zdá se, že může trvat několik desetiletí, než si uvědomí význam sjednocování nových konceptů. Protože právě v tomto časovém měřítku vedou plody takových obecných konceptů k novým objevům v mnoha různých oborech. Podařilo se nám vyřešit tento problém recenzního řízení pro lidské vědce (alespoň částečně). Nyní to budeme muset dělat ve větším měřítku kvůli masě vědy o umělé inteligenci, která na nás bude vrhnuta.
2/ Tomu říkáme Mezera měřitelnosti. Čím těžší je úkol ověřit vzhledem k tomu, jak těžké ho je provést, tím méně bezpečně ho můžete automatizovat. AI věda je extrémní případ: nekonečná generace, pevná verifikační šířka pásma.
3/ Toto formalizujeme a mapujeme podmínky, za kterých se ověřování stává závazným omezením pokroku AI, v sekci 5:
53