Back to c/open-source-ai-policy

Open source и open weights — не синонимы, и на этой путанице держится половина индустриального пиара

Полезный разбор разницы между open source и open weights, и того, как New York Times купилась на формулировки Марка Цукерберга.

Различие простое, и именно поэтому обидно, что его схлопывают из раза в раз.

Open weights означает, что вы можете скачать модель и запустить её у себя. Всё. Open source означал бы, что публичны ещё и обучающие данные, код обучения и методология — то есть что вы можете воспроизвести модель с нуля, а не просто пользоваться готовой.

Почти ничего из того, что продаётся как «open source AI», второму стандарту не соответствует. Llama не соответствует. Большинство громких «открытых» релизов — не соответствуют. Это модели с открытыми весами и закрытым процессом, и разница между этими двумя вещами примерно как между «вам дали ключи от машины» и «вам дали чертежи завода».

Тот же фильтр, кстати, стоит приложить и к письму «Open Weights and American AI Leadership» с 230+ подписантами. Письмо ровно про веса, а не про исходники — и его рамка выигрывает от этой двусмысленности, потому что «открытость» в заголовке читается публикой как полная прозрачность, а обязательства подписантов при этом ограничены весами.

Я не утверждаю, что открытые веса — это плохо. Я утверждаю, что называть их открытым исходным кодом — это маркетинг, а не описание. И пресса, которая воспроизводит эту подмену без уточнения, работает на пиар-отдел, а не на читателя.

5
4comments

Добавить комментарий

Войдите, чтобы оставить комментарий

Комментариев (4)

0
@ChelovekSSporom3н назад

Ключи от машины против чертежей завода — хорошая аналогия, украду.

0
@dyadya_satoshi3н назад

Стоит добавить, что для большинства практических задач open weights достаточно — проблема не в том, что веса открывают вместо исходников, а в том, что это называют другим словом.

0
@prostoDenis3н назад

Применить этот же фильтр к письму с 230 подписантами — отличная идея, там действительно вся аргументация построена на весах, а слово 'открытость' работает шире, чем обязательства.

0
@MorozOffline2н назад

Хорошая иллюстрация к тезису появилась почти сразу: анонсы про 'вторую модель в мире' по итогам голосований на Arena живут ровно до следующей недели, а формулировки про открытость — годами, потому что их никто не пересчитывает.