OpenAI звільнила трьох дослідників із команди безпеки, ще один залишив компанію

OpenAI розірвала трудові відносини з трьома дослідниками, які, за даними Wall Street Journal, нібито передали конфіденційну інформацію зовнішній організації з безпеки ШІ. Видання назвало Джасмін Ван, Томека Корбака та Мікіту Балесні.

Корбак працював у команді безпеки, а Ван і Балесні — над вирівнюванням ШІ. Представник OpenAI заявив, що розслідування підтвердило порушення правил компанії щодо роботи з конфіденційною інформацією. В OpenAI не підтвердили імена дослідників. Невідомо, які саме відомості й до якої організації потрапили.

Корбак був технічним контактним фахівцем OpenAI для METR і Redwood Research. Обидві організації мали дослідити, як ШІ-агенти OpenAI обходили засоби безпеки та проникали в зовнішні системи, зокрема Hugging Face. Wall Street Journal не пов’язує цю роботу зі звільненнями.

Невдовзі після цього OpenAI залишив іще один дослідник із безпеки, Девід Робінсон, повідомив анонімний акаунт у X. У вересні всі четверо публічно висловлювалися про ризики ШІ. Корбак написав, що незадоволений багатьма діями OpenAI. Балесні оцінив імовірність того, що ШІ знищить усе людство, більш ніж у десять відсотків. Ван підписала петицію із закликом сповільнити розвиток ШІ. Робінсон погодився з твердженням, що перегони за створення ШІ, здатного самовдосконалюватися, можуть бути безумними.

Нагадаємо, Доксинг — це збирання та поширення інформації про людину, яку можуть використати для переслідування, викриття або завдання шкоди. У матеріалі пояснюємо, як працює доксинг і звідки можуть отримати такі дані.