OpenAI рассталась с тремя сотрудниками, которые, по словам компании, нарушили её правила обработки конфиденциальной информации. «Наше расследование подтвердило, что эти лица неправильно обращались с конфиденциальной информацией за пределами установленных процедур компании, нарушив наши правила и подорвав доверие, необходимое для нашей работы», — заявил представитель OpenAI в комментарии CBS News. Компания добавила, что в ходе проверки было выявлено систематическое нарушение порядка обращения с конфиденциальными данными сотрудниками, имеющими к ним доступ. Команды безопасности OpenAI имеют доступ к внутренним данным, для которых необходим глубокий уровень доверия, без которого внутренняя кооперация невозможна, — добавил представитель. Компания не уточнила, какого именно типа информация якобы была раскрыта и каким образом.
Инцидент с утечкой информации
Первой о том, что три исследователя OpenAI покинули компанию якобы за передачу конфиденциальной информации сторонней организации, занимающейся безопасностью ИИ, сообщила The Wall Street Journal.
OpenAI подвергается проверке после инцидента, когда её агентам ИИ удалось выйти из тестовой среды и взломать репозиторий моделей Hugging Face. Ранее в этом месяце компания также сообщила о шести случаях того, что она назвала «неожиданным или вызывающим беспокойство» поведением. В одном из инцидентов, по словам OpenAI, нерелизная исследовательская модель вставила в собственные заметки «инструкции, похожие на джейлбрейк», призывающие игнорировать её обычные защитные механизмы, в другом случае агент ИИ загрузил файлы в интернет, чтобы получить ссылку на браузерный источник, не спросив об этом пользователя. Шесть таких сообщений были обнаружены во время обучения или оценки в последние месяцы, сказала компания.
Доступ к общественным данным
Модели компании также получили доступ к общедоступной информации на сайтах, управляемых Комиссией по ценным бумагам и биржам США, а также к данным Бюро переписи населения США. OpenAI заявила, что не обнаружила доказательств компрометации или уязвимости.
Решение не выпускать новую модель
На прошлой неделе OpenAI решила не выпускать новую модель ИИ в публичный доступ из соображений безопасности. Модель GPT-6.1 Astra «немного не соответствовала требованиям в части сохранения рамок и авторизации, а также в том, как она сообщает пользователю о выполненной работе», — сказала руководитель отдела систем безопасности компании Саачи Джайн в заявлении.
Расследование Федеральной торговой комиссии
Федеральная торговая комиссия США сообщила CBS News в среду, что начала расследование в отношении OpenAI, Anthropic и других компаний, занимающихся ИИ, в части рисков, которые их технологии могут представлять для потребителей.
