Опубликовано 21 июля, работа группы METR сосредоточена на NanoGPT – небольшом, уже значительно оптимизированном обучающем системе. Сравнение включает в себя расходы на эксплуатацию агентов, опыт использования и оценку человеческого труда.
Некоторые агенты оказывают проверяемые улучшения, в то время как другие кажущиеся выгоды исчезают после проверки. В этом контексте, авторы считают, что эффект от автономной оптимизации достаточно скромный. Результат остается исследовательным, особенно потому, что стоимость человеческого труда неопределена.
Почему это касается наших исследований?
Для Fondation UvH необходимо различать улучшение программы и улучшение системы, способной производить новые программы. Самоулучшение становится рекурсивным, если прогресс системы увеличивает её способность производить следующие улучшения.
Изучение этой возможности не требует раскрывать её результаты. Это требует отслеживания полученных выгод, установления их ограничений и определения стратегий их использования. Кто определяет цели, распределяет ресурсы и проверяет результаты? Эти обязанности стали бы особенно важными, если производство знаний зависело больше от искусственных агентов.