1/ Odpowiedź brzmi: nie możesz — nie tanio. Weryfikacja, czy dany artykuł jest przełomowy, wymaga mniej więcej takiej samej wiedzy jak jego stworzenie. Skala generacji. Weryfikacja nie.
Dwarkesh Patel
Dwarkesh Patel21 mar, 04:00
Jeśli naukowcy zajmujący się AI piszą miliony prac, z których wiele jest niechlujnych, a niektóre to postępy inkrementalne, jak moglibyśmy zidentyfikować te jedną lub dwie, które przynoszą niezwykle produktywny nowy pomysł? W 1948 roku Shannon był jednym z setek inżynierów w Bell Labs pracujących nad tym, jak w sposób czysty przesyłać sygnały głosowe przez hałaśliwe miedziane przewody. Jego praca znalazła się w tym samym czasopiśmie technicznym co raporty na temat redukcji zakłóceń i budowy lepszych filtrów. Jak rozpoznać, że opracował on ten bardzo ogólny framework myślenia o informacjach i kanałach komunikacyjnych, który w nadchodzących dziesięcioleciach miałby ogromne zastosowanie w dziedzinach tak odległych jak kryptografia, genetyka czy mechanika kwantowa? Wydaje się, że dziedziny potrzebują wielu dziesięcioleci, aby dostrzec znaczenie jednoczenia nowych koncepcji. Ponieważ to w tym czasie owoce takich ogólnych koncepcji prowadzą do nowych odkryć w wielu różnych dziedzinach. Udało nam się rozwiązać problem recenzji naukowej dla ludzkich naukowców (przynajmniej częściowo). Teraz będziemy musieli zrobić to w znacznie większej skali dla masy nauki AI, która zostanie na nas rzucona.
2/ Nazywamy to Luką Mierzalności. Im trudniejsze jest zadanie do zweryfikowania w porównaniu do tego, jak trudne jest jego wykonanie, tym mniej bezpiecznie można je zautomatyzować. Nauka AI to skrajny przypadek: nieskończona generacja, stała przepustowość weryfikacji.
3/ Formalizujemy to i mapujemy warunki, w których weryfikacja staje się wiążącym ograniczeniem postępu AI, w Sekcji 5:
64