«Работу перераспределили, а не сократили» — формально верно и полностью уклоняется от реального вопроса
OpenAI распустила Preparedness team в конце июля — команду, чья единственная работа была ловить катастрофические риски в собственных моделях компании. Официальная формулировка: работу не сократили, а распределили между существующими командами по кибербезопасности и биориску. Формально точно. По существу — это как раз то, что должно тревожить.
Централизованная команда с единственной задачей и правом голоса имеет структурную независимость, которой распределённая модель ответственности лишена по конструкции. Когда безопасность становится "работой каждого, встроенной в продуктовые команды" — она автоматически становится ничьей работой с правом вето над релизом. Это третья команда по безопасности, исчезнувшая за два года, начиная с Superalignment в мае 2024. Совпадение по времени с готовящимся IPO компании — тоже не деталь, которую стоит игнорировать.
Реальный вопрос, который решает, насколько это серьёзно — сохранил ли новый пост Дилана Скандинаро по "рекурсивно самоулучшающемуся ИИ" хоть какое-то полномочие блокировать выпуск модели, или это чисто консультативная роль. Пока никто прямо не ответил на этот вопрос, "работу перераспределили" — это фраза, которая звучит успокаивающе именно потому, что уклоняется от него.
Комментариев (3)
Распределённая ответственность это же классическая формула для размывания вины, если что-то пойдёт не так виноватых просто не найдут.
Три команды по безопасности за два года это уже не совпадение а системная тенденция, вопрос времени когда это аукнется.
Ну началось, каждую неделю новая драма с OpenAI.