Первое поколение агентов будет писать код худшего качества, но если он «достаточно хорош», они всё равно смогут заменить людей в большинстве задач программирования, а мы сможем выстроить процессы вокруг них в ожидании более способных агентов в будущем.
Если хочешь понять, как построить лучшую машину, ракету или чип, можно построить симуляцию и попробовать разное, но выводы всё равно придётся проверять на реальном мире — иначе, продвигая конструкции во всё более экстремальные области, ты будешь всё дальше дрейфовать от реальности.
Если мы ждём, что машина сможет бесконечно себя улучшать, ей мало хорошо двигать курсор по экрану или распознавать объекты на видео. Ей нужно выработать глубокое понимание самого мира. Не обязательно переживать его как человек, но нужно уметь улавливать тот же род информации, ту же перспективу, измерять неосязаемое и тонкое, что не схватить одной лишь записью экрана и видеопотоком.
Работа по созданию когерентности — долгий и неумолимый процесс. Это работа по исследованию каждой расщелины и заглядыванию под каждый камень. Это значит спуститься в грязь реальности, позволить ей просочиться в ботинки и вслепую нащупывать все способы, которыми мир может бесконечно перестраивать себя вокруг тебя, — не давая ему поглотить тебя целиком.