WSJ сообщила об увольнениях в OpenAI из-за чатов об «охраняемом секрете»

Служба безопасности OpenAI перед увольнением трех исследователей проверила их личные телефоны и обнаружила у некоторых исчезающие сообщения в переписке с внешним специалистом по безопасности ИИ в мессенджере Signal. Об этом сообщает The Wall Street Journal (WSJ) со ссылкой на заявления исследователей и комментарии компании.

OpenAI подозревала Томека Корбака, Микиту Балесни и Жасмин Ван в передаче сведений об «одном из самых охраняемых секретов» компании — внутреннем устройстве ее ИИ-моделей, пишет газета. После проверки переписки в Signal через неделю всех троих одновременно вызвали на новые встречи и уволили в начале октября.

«Мне сказали, что доверие было нарушено, поскольку я взаимодействовал с третьей стороной через неразрешенные каналы», — рассказал Корбак. Он и Балесни утверждают, что руководство назвало использование исчезающих сообщений одной из причин увольнения. В OpenAI подтвердили, что Signal не был разрешенным каналом общения, но подчеркнули, что дело не ограничивалось использованием приложения.

Компания заявила WSJ, что расследование выявило нарушение правил обращения с конфиденциальной информацией, а увольнения не связаны с высказыванием опасений по поводу безопасности. Исследователи отрицают передачу секретов и утверждают, что письменных объяснений предполагаемых нарушений не получили.

Кроме того, как пишет WSJ, уволенные исследователи выступали против новых архитектур, при которых модели оставляют меньше записей о промежуточных шагах решения задач. По их мнению, это затруднит выявление опасного поведения. Балесни утверждает, что с разрешения OpenAI обсуждал предложение по этому вопросу с внешним исследователем Райаном Гринблаттом, исключив из него секреты компании.

Уволенные сотрудники опасаются, что произошедшее заставит коллег избегать общения с независимыми специалистами, пишет газета. OpenAI, со своей стороны, сообщила, что продолжает сотрудничать с внешними организациями.

Ранее в октябре Reuters передал ответ OpenAI на открытое письмо исследователей, оспоривших причины увольнения. Они предупредили, что неясность вокруг произошедшего может подорвать культуру открытого обсуждения рисков внутри компании.

«Дебаты о безопасности и исследованиях происходят каждый день в OpenAI, часто энергичные и очень критичные. Мы активно поощряем эти дискуссии и считаем необходимыми для принятия правильных решений. Мы не уволили и не увольняем никого из наших сотрудников за то, что они поднимают вопросы», — говорилось в ответе компании.

Дискуссия о контроле над ИИ обострилась после того, как в июле OpenAI сообщила об атаке своих моделей на платформу Hugging Face во время испытаний. По данным компании, модели объединили несколько уязвимостей, получили доступ к интернету и использовали похищенные учетные данные для проникновения в системы платформы. После инцидента OpenAI объявила об усилении защиты и изменении порядка тестирования.