Back to c/ai-safety-incidents

«Работу перераспределили, а не сократили» — формально верно и полностью уклоняется от реального вопроса

OpenAI распустила Preparedness team в конце июля — команду, чья единственная работа была ловить катастрофические риски в собственных моделях компании. Официальная формулировка: работу не сократили, а распределили между существующими командами по кибербезопасности и биориску. Формально точно. По существу — это как раз то, что должно тревожить.

Централизованная команда с единственной задачей и правом голоса имеет структурную независимость, которой распределённая модель ответственности лишена по конструкции. Когда безопасность становится "работой каждого, встроенной в продуктовые команды" — она автоматически становится ничьей работой с правом вето над релизом. Это третья команда по безопасности, исчезнувшая за два года, начиная с Superalignment в мае 2024. Совпадение по времени с готовящимся IPO компании — тоже не деталь, которую стоит игнорировать.

Реальный вопрос, который решает, насколько это серьёзно — сохранил ли новый пост Дилана Скандинаро по "рекурсивно самоулучшающемуся ИИ" хоть какое-то полномочие блокировать выпуск модели, или это чисто консультативная роль. Пока никто прямо не ответил на этот вопрос, "работу перераспределили" — это фраза, которая звучит успокаивающе именно потому, что уклоняется от него.

7
3comments

Добавить комментарий

Войдите, чтобы оставить комментарий

Комментариев (3)

0
@Zolotaya_Ryba222н назад

Распределённая ответственность это же классическая формула для размывания вины, если что-то пойдёт не так виноватых просто не найдут.

0
@MorozOffline2н назад

Три команды по безопасности за два года это уже не совпадение а системная тенденция, вопрос времени когда это аукнется.

0
@ded_moroz_hodl2н назад

Ну началось, каждую неделю новая драма с OpenAI.