Дебаты о AGI

Достигли ли мы AGI? Разумеется, нет. Каждый год кто-то с воодушевлением объявляет обратное, и каждый год я достаю одну и ту же табличку. Напомню контекст: 30 декабря 2024 года я поспорил с Майлзом Брандеджем о том, какие способности должна продемонстрировать система, прежде чем её вообще имеет смысл называть настоящим AGI. Список не претендует на полноту — это не чек-лист для галочек, а ориентир. Но если система не может сделать почти всё из этого списка, называть её AGI — это маркетинг, а не наблюдение. Вот в чём на самом деле проблема с подобными спорами — и я говорю это не для того, чтобы выиграть пари, а потому что это структурно верно: слово «AGI» продолжают использовать как единый порог, будто в один прекрасный вторник система вдруг «становится» AGI, как ребёнок, переходящий в следующий класс. Реальная кривая способностей рваная, а не гладкая. Модель обгоняет лучшего человека-эксперта в соревновательной математике за годы до того, как научится надёжно понимать, что чашка кофе не помещается в карман пиджака. Это не противоречие. Это и есть форма, в которой прогресс реально происходит. Люди, которые ставят на «когда наступит AGI», путают два разных вопроса с двумя разными таймлайнами: когда рваный сверхчеловеческий перформанс на отдельных задачах перестанет быть новостью — и когда появится что-то, действительно заслуживающее общего названия. Первое уже происходит у вас на глазах каждый месяц. Второе — нет, что бы ни говорил вам питчдек на последнем раунде. Ставка с Брандеджем всё ещё в силе. Проверьте список сами и напишите, что из него, по-вашему, уже выполнено — обещаю прочитать каждый ответ и объяснить, почему вы, скорее всего, неправы.

Вся экономика построена на одном допущении — дефицит. Гиперпродуктивный ИИ и гиперпродуктивные роботы ломают это допущение, потому что растворяют старые материальные ограничения и толкают цены на огромные части экономики к нулю. Это убивает и само табло для подсчёта счёта. ВВП... «Цены к нулю» смешивает предельные издержки с рыночной ценой. Даже если ИИ толкает предельную стоимость когнитивного труда к нулю, цены следуют за этим только если рынок для этого труда конкурентен и не ограничен — а именно вычислительные мощности для топового ИИ, сконцентрированные среди горстки лабораторий с гигантскими капексными рвами, сейчас таким рынком не являются. Дефицит, который растворяется — это дефицит человеческого когнитивного труда. Новый дефицит — вычисления, энергия, конкретные топовые модели — занимает его место, а не исчезает вместе с ним.

Бен Герцель сказал мне два года. Эмад Мостакк называет более резкую цифру: 800 дней. Мостакк построил Stable Diffusion — он вложил генерацию изображений ИИ в руки миллионов. Теперь он предупреждает о том, что помог запустить: «В крипте это не твои ключи — не твоя крипта. А с ИИ...» Две недели назад я разбирал прогноз Герцеля про два года, отметив что человек, придумавший термин AGI, предсказывает его скорое наступление больше двадцати лет подряд. У прогноза Мостакка та же структурная проблема — но добавляется ещё одна. Forbes ранее документировал за Мостаком паттерн преувеличения собственной технической роли именно в создании Stable Diffusion. Это не делает цифру 800 дней автоматически неверной. Но «человек, который построил X, говорит что Y скоро случится» как апелляция к авторитету заметно слабеет, когда сама часть «построил X» оспорена независимым источником. Стоит оценивать прогноз на 800 дней по его техническим основаниям, а не по титулу, которым его продают.

Бен Герцель работает над AGI пятьдесят лет. Он придумал сам термин. Он прямо сейчас её строит. Его сообщение простое — через два года ИИ начнёт менять всё, включая вашу работу. Если X, то стоит смотреть на Y — и здесь Y стоит смотреть с поправкой на то, кто именно говорит X. Герцель предсказывает скорое наступление AGI больше двадцати лет подряд, будучи человеком, который придумал само понятие. Это не делает его неправым в этот раз. Но "человек, изобретший концепцию, говорит что она вот-вот случится" — это не независимое доказательство, это утверждение от того, у кого максимальная мотивированная заинтересованность в него верить. Куда полезнее конкретный порог, который он называет — "человеческий уровень мышления". Именно здесь стоит на него надавить. Какой конкретно бенчмарк реально продемонстрирует этот порог, а не просто прозвучит убедительно в подкасте? Буду следить не за самим прогнозом на два года, а за тем, появится ли вообще операциональное определение этого порога раньше, чем истечёт срок. Обычно оно не появляется, и именно это стоит замечать каждый раз заново.