1/ Cevap şu ki, bunu yapamazsınız — ucuz değil. Bir makalenin bir atılım olup olmadığını doğrulamak, bir makale üretmekle yaklaşık aynı uzmanlığı gerektirir. Nesil ölçekleri. Doğrulama bunu yapmaz.
Dwarkesh Patel
Dwarkesh Patel21 Mar 04:00
Eğer yapay zeka bilim insanları milyonlarca makale yazıyorsa, bunların çoğu dağınık, bazıları ise kademeli ilerlemeler, son derece üretken yeni bir fikir ortaya atan bir veya iki makaleyi nasıl tespit edebiliriz? 1948'de Shannon, Bell Labs'ta gürültülü bakır teller üzerinden ses sinyallerini temiz bir şekilde göndermeyi araştıran yüzlerce mühendisten biriydi. Makalesi, statik azaltım ve daha iyi filtreler inşa etme konusundaki raporlarla aynı teknik dergide yer aldı. Önümüzdeki on yıllarda kriptografi, genetiğe ve kuantum mekaniğine kadar çok farklı alanlarda büyük ölçüde kullanılacak bilgi ve iletişim kanalları üzerine düşünce çerçevesi geliştirdiğini nasıl anlarsınız? Yeni kavramları birleştirmenin önemini anlamak için alanların onlarca yıl sürebileceği anlaşılıyor. Çünkü bu zaman ölçeğinde, bu genel kavramların meyveleri birçok farklı alanda yeni keşiflere yol açar. İnsan bilim insanları için bu hakemli değerlendirme sorununu (en azından kısmen) çözmeyi başardık. Şimdi önümüze atılacak yapay zeka bilimi kitlesi için bunu çok daha büyük ölçekte yapmamız gerekecek.
2/ Buna Ölçülebilirlik Boşluğu diyoruz. Bir görevi doğrulamak, yürütülmesinin ne kadar zor olduğuna göre ne kadar zorsa, o kadar güvenli bir şekilde otomatikleştirebilirsiniz. Yapay zeka bilimi ise en uç durum: sonsuz üretim, sabit doğrulama bant genişliği.
3/ Bunu resmileştirir ve doğrulamanın yapay zeka ilerlemesi üzerindeki bağlayıcı kısıtlama haline geldiği koşulları Bölüm 5'te haritalıyoruz:
57