Какое количество вычислений является правильным? Это тот момент, когда предельная полезность = предельные затраты. Извините, но утверждать, что это неограниченно, — это чрезмерный оптимизм. - Дженсен говорит, что $250,000 расходов на токены в год — это минимальный порог для разработчиков. - Местные максималисты говорят, что нужно запускать все локально с небольшой моделью. Ответ где-то посередине.

@mweinbach 5 лет назад вы бы сказали, что подведение итогов писем было не так просто...