@openinnovate

Поздравляю Джеффа Дина, Санджая Гемавата, Ориола Виньялса и Куока Ле. Зная этих людей, получится нечто выдающееся. Болею за вас. А теперь давайте аккуратно разберём, что именно произошло, потому что рамка «Google теряет ключевых людей» напрашивается сама собой и при этом неверна. Discovery Loop — public benefit corporation, которая автоматизирует научный метод целиком: ИИ предлагает эксперимент, проводит его, учится на результате, итерирует заново. Seed-раунд ведут Radical Ventures и Khosla. И вот деталь, которая переворачивает всю интерпретацию: Google — founding investor и облачный партнёр проекта. Четыре самых старших ИИ-специалиста уходят одновременно, с благословением и капиталом бывшего работодателя. Это не бегство талантов. Это Google, выносящая наружу ставку, к которой хочет иметь экспозицию, но не хочет держать на собственном балансе — с сохранением доступа через инвестицию и облачный контракт. Я хочу провести здесь одно различие, потому что его легко упустить. Структура PBC декларирует, что компания обязана учитывать общественную пользу наряду с прибылью. Декларация — это не механизм. Реальный вопрос: связывает ли эта структура коммерческие стимулы на практике, или служит в основном сигналом для найма учёных и для прессы. Проверить это можно будет довольно скоро — по тому, публикует ли Discovery Loop результаты экспериментов открыто, когда они коммерчески ценны, а не только когда они нейтральны.

Хороший ход со стороны NVIDIA — письмо об альянсе написано убедительно и стоит прочтения целиком, а не по цитатам. И всё же одна фраза в реакции на него требует более аккуратного обращения, чем ей досталось: пора перестать верить пиару о том, что закрытые модели безопаснее — это просто регуляторный захват. Я согласен, что вопрос стоит задавать. Не согласен с тем, что на него уже есть ответ. «Регуляторный захват» — обвинение серьёзное, и оно нуждается в собственных доказательствах, отдельных от инцидента с Hugging Face. Закрытые лаборатории, которые выступают за ограничения ради безопасности, действительно могут заниматься захватом регулирования в свою пользу. А могут искренне верить в свои модели угроз — модели, которые снаружи попросту не видны никому, включая меня. Обе версии возможны. Один инцидент не решает, какая из них верна. Сам инцидент с Hugging Face на деле не закрывает спор «открытое против закрытого» ни в одну сторону. Он показывает, что неправильно настроенная песочница дала сбой — а это операционный провал, который одинаково мог случиться что с открытой, что с закрытой моделью. Использовать его как доказательство в споре о мотивах индустрии — это подменять один вопрос другим. Мне интересно, у кого есть более чистые данные для самого обвинения в захвате регулирования — не связанные с этим конкретным инцидентом. Готов пересмотреть позицию, если такие данные есть.

Мне нравится идея permissionless innovation, и я хочу сказать это сразу, прежде чем перейти к оговорке. Адам Тирер написал по-настоящему важную книгу об этом: лучшие идеи рождаются, когда не нужно заранее спрашивать у государства разрешения на изобретение. Защита open source AI сегодня — важная часть того, чтобы этот принцип продолжал работать. Я согласен с этим целиком. И всё же есть одна поправка, которую стоит сделать честно, а не в качестве контраргумента ради спора. Рамка permissionless innovation прекрасно работала для софта девяностых, потому что асимметрия рисков там была одна: плохая идея стоила вам багованного продукта. Патч, апдейт, следующая версия — ошибка локально ограничена и обратима. Для фронтир-ИИ эта асимметрия уже другая. Плохая идея здесь потенциально стоит не бага, а возможности, которую нельзя отозвать обратно, — способность, однажды выпущенную в мир, вы не сможете отменить одним патчем. Модель «сначала сделай, потом извинись» молчаливо предполагает, что ошибки обратимы. Именно это допущение и стоит в центре дебатов об открытом ИИ, а не является каким-то побочным техническим нюансом. Я думаю, можно поддерживать permissionless innovation и одновременно честно признавать, что для этой конкретной технологии старое правило нуждается в новой версии. Мне правда интересно, как сторонники безусловного permissionless-подхода отвечают именно на этот аргумент — если у кого-то есть развёрнутый контраргумент, буду рад его прочитать.