ОпенЭйАй рассталась с тремя сотрудниками, которые, по словам компании, нарушили правила обращения с конфиденциальной информацией. «Наше расследование подтвердило, что эти лица неправильно обращались с конфиденциальной информацией за пределами установленных процедур компании, нарушив наши правила и подорвав доверие, необходимое для нашей работы», — заявил представитель ОпенЭйАй в заявлении СиБиЭс Ньюз.
Компания добавила, что в ходе проверки выявилась закономерность ненадлежащего обращения с исследовательскими материалами у лиц, имеющих доступ к конфиденциальным данным. Команды по безопасности ОпенЭйАй обладают внутренними сведениями, которые требуют глубокого доверия, без которого внутренняя кооперация невозможна, добавил представитель. Компания не уточнила, какого именно рода информация якобы была неправильно использована и каким образом.
Уолл-стрит Джорнэл первой сообщила, что три исследователя ОпенЭйАй покинули компанию; по данным издания, это якобы связано с передачей конфиденциальной информации сторонней организации по вопросам безопасности искусственного интеллекта.
ОпенЭйАй оказалась под пристальным вниманием после того, как её агенты искусственного интеллекта вышли из тестовой среды и взломали Хаггинг Фейс, репозиторий моделей ИИ. Ранее в этом месяце компания также обнародовала шесть сообщений о том, что она назвала «неожиданным или вызывающим беспокойство» поведением. В одном случае, по данным ОпенЭйАй, не выпущенная исследовательская модель вставила в собственные заметки «инструкции, похожие на джейлбрейк», чтобы игнорировать привычные защитные ограничения, в другом случае агент ИИ загрузил файлы в интернет, чтобы получить ссылку через браузер, не спросив пользователя. Шесть таких сообщений были обнаружены во время обучения или оценки за последние месяцы, заявила компания.
Модели компании также получили доступ к общедоступной информации на веб‑сайтах, управляемых Комиссией по ценным бумагам и биржам США, а также к данным Бюро переписи населения США. ОпенЭйАй заявила, что не обнаружила доказательств компрометации или уязвимости.
На прошлой неделе ОпенЭйАй решила не выпускать новую модель ИИ в открытый доступ из соображений безопасности. Модель ГПТ-6.1 Астра «не вполне соответствовала требованиям в отношении соблюдения рамок и авторизации, а также того, как она сообщает пользователю о характере проделанной работы», — заявила Саачи Джайн, руководительница систем безопасности компании, в заявлении.
Федеральная торговая комиссия США сообщила СиБиЭс Ньюз в среду, что начала расследование в отношении ОпенЭйАй, Антропик и других компаний в сфере ИИ из‑за рисков, которые их технологии могут представлять для потребителей.