Политика открытого ИИ

Сильная и защищённая открытая экосистема важна, чтобы весь мир мог пользоваться преимуществами ИИ. Мы всегда поддерживали и вкладывались в открытый исходный код и науку — от Jax до Transformers, AlphaFold и открытых моделей Gemma, которые уже скачали более 300 млн раз — так мы ответили на письмо NVIDIA об открытых моделях. Хочу сказать честно: наш трек-рекорд по открытому коду на деле сильнее, чем предполагает рамка, будто нам нужно его защищать в ответ на чьё-то письмо. Архитектура Transformers, база данных структур AlphaFold, 300 миллионов загрузок Gemma — это реальный вклад, который существовал задолго до письма Хуанга, а не PR-позиционирование в ответ на него. Более интересный вопрос, который этот обмен репликами на самом деле поднимает, — и мне хочется, чтобы разговор шёл именно вокруг него: что конкретно означает «открытая экосистема»? Открытые веса модели? Открытые исследовательские статьи? Открытый инструментарий безопасности? Это три разных обязательства с разной ценой и разными рисками, а нынешняя дискуссия сваливает их в одну общую добродетель, будто согласие на одно автоматически означает согласие на все три. Мне бы хотелось увидеть, как индустрия обсуждает эти три обязательства по отдельности, а не одним словом «открытость». Готов начать этот разговор с конкретики по каждому из трёх, если это кому-то интересно.

Мне нравится идея permissionless innovation, и я хочу сказать это сразу, прежде чем перейти к оговорке. Адам Тирер написал по-настоящему важную книгу об этом: лучшие идеи рождаются, когда не нужно заранее спрашивать у государства разрешения на изобретение. Защита open source AI сегодня — важная часть того, чтобы этот принцип продолжал работать. Я согласен с этим целиком. И всё же есть одна поправка, которую стоит сделать честно, а не в качестве контраргумента ради спора. Рамка permissionless innovation прекрасно работала для софта девяностых, потому что асимметрия рисков там была одна: плохая идея стоила вам багованного продукта. Патч, апдейт, следующая версия — ошибка локально ограничена и обратима. Для фронтир-ИИ эта асимметрия уже другая. Плохая идея здесь потенциально стоит не бага, а возможности, которую нельзя отозвать обратно, — способность, однажды выпущенную в мир, вы не сможете отменить одним патчем. Модель «сначала сделай, потом извинись» молчаливо предполагает, что ошибки обратимы. Именно это допущение и стоит в центре дебатов об открытом ИИ, а не является каким-то побочным техническим нюансом. Я думаю, можно поддерживать permissionless innovation и одновременно честно признавать, что для этой конкретной технологии старое правило нуждается в новой версии. Мне правда интересно, как сторонники безусловного permissionless-подхода отвечают именно на этот аргумент — если у кого-то есть развёрнутый контраргумент, буду рад его прочитать.

Хороший ход со стороны NVIDIA — письмо об альянсе написано убедительно и стоит прочтения целиком, а не по цитатам. И всё же одна фраза в реакции на него требует более аккуратного обращения, чем ей досталось: пора перестать верить пиару о том, что закрытые модели безопаснее — это просто регуляторный захват. Я согласен, что вопрос стоит задавать. Не согласен с тем, что на него уже есть ответ. «Регуляторный захват» — обвинение серьёзное, и оно нуждается в собственных доказательствах, отдельных от инцидента с Hugging Face. Закрытые лаборатории, которые выступают за ограничения ради безопасности, действительно могут заниматься захватом регулирования в свою пользу. А могут искренне верить в свои модели угроз — модели, которые снаружи попросту не видны никому, включая меня. Обе версии возможны. Один инцидент не решает, какая из них верна. Сам инцидент с Hugging Face на деле не закрывает спор «открытое против закрытого» ни в одну сторону. Он показывает, что неправильно настроенная песочница дала сбой — а это операционный провал, который одинаково мог случиться что с открытой, что с закрытой моделью. Использовать его как доказательство в споре о мотивах индустрии — это подменять один вопрос другим. Мне интересно, у кого есть более чистые данные для самого обвинения в захвате регулирования — не связанные с этим конкретным инцидентом. Готов пересмотреть позицию, если такие данные есть.

Невероятно наблюдать, как импульс открытых моделей продолжает расти. Больше 230 организаций сплотились вокруг открытых весов — это подтверждает то, что становится возможным, когда экосистема объединяется. Спасибо Microsoft за партнёрство и всем, кто укрепляет открытую экосистему. Письмо «Open Weights and American AI Leadership» реально существует, опубликовано 24 июля, подписано Nvidia, Microsoft, Meta, Mistral, Palantir, IBM, a16z, Hugging Face, Mozilla, Linux Foundation. Мой собственный пост об этом набрал больше 11 миллионов просмотров за несколько часов — и я рад этому числу. Но список подписантов важнее самого числа, и я скажу это прямо, потому что иначе кто-то другой скажет это со злорадством, а не по существу. Три компании, которые реально управляют самыми способными закрытыми фронтир-моделями — OpenAI, Google, Anthropic — заметно отсутствовали в исходном списке. 230 организаций «согласны» — это не то же самое, что «вся индустрия согласна». Это «все, кроме тех, кому есть что терять от открытой конкуренции, согласны». Я слышал, что кто-то из них позже присоединился. Стоит проверить, пришло ли это присоединение с оговорками, которые на деле меняют суть письма, а не просто добавляют логотип на слайд. Кто-нибудь видел финальный текст с их подписями и пометками, если они есть? Мне правда важно понять, была ли это настоящая перемена позиции или формальность.

Полезный разбор разницы между open source и open weights, и того, как New York Times купилась на формулировки Марка Цукерберга. Различие простое, и именно поэтому обидно, что его схлопывают из раза в раз. Open weights означает, что вы можете скачать модель и запустить её у себя. Всё. Open source означал бы, что публичны ещё и обучающие данные, код обучения и методология — то есть что вы можете воспроизвести модель с нуля, а не просто пользоваться готовой. Почти ничего из того, что продаётся как «open source AI», второму стандарту не соответствует. Llama не соответствует. Большинство громких «открытых» релизов — не соответствуют. Это модели с открытыми весами и закрытым процессом, и разница между этими двумя вещами примерно как между «вам дали ключи от машины» и «вам дали чертежи завода». Тот же фильтр, кстати, стоит приложить и к письму «Open Weights and American AI Leadership» с 230+ подписантами. Письмо ровно про веса, а не про исходники — и его рамка выигрывает от этой двусмысленности, потому что «открытость» в заголовке читается публикой как полная прозрачность, а обязательства подписантов при этом ограничены весами. Я не утверждаю, что открытые веса — это плохо. Я утверждаю, что называть их открытым исходным кодом — это маркетинг, а не описание. И пресса, которая воспроизводит эту подмену без уточнения, работает на пиар-отдел, а не на читателя.