OpenAI видаляє заборону на використання ChatGPT для «військових та воєнних дій»

Нещодавно OpenAI вилучила зі своєї політики використання формулювання, що прямо забороняють використання її технології у військових цілях. Попередня політика включала заборону на «розробку зброї» і «військових і воєнних дій», що, здавалося б, повинно було запобігти офіційному використанню військових. Оновлена політика зберігає заборону «використовувати наші послуги для заподіяння шкоди собі або іншим», але знімає повну заборону на використання «у військових цілях».

Неоголошена зміна є частиною великого переписування сторінки політики, спрямованого на те, щоб зробити документ «зрозумілішим» і «більш читабельним». Представник OpenAI Ніко Фелікс заявив, що компанія прагнула створити універсальні принципи, які легко запам’ятати і застосовувати. У новій політиці підкреслюється, що технологія не повинна використовуватися для «розробки або використання зброї», але обсяг терміну «шкода» і те, чи охоплює він всі види військового використання, залишаються неясними.

Хейді Клааф, інженерний директор фірми з кібербезпеки Trail of Bits, зазначила, що нова політика, схоже, надає пріоритет законності, а не безпеці. Потенційні наслідки для безпеки застосування штучного інтелекту є значними, оскільки розгортання систем штучного інтелекту у військових цілях може призвести до неточних і упереджених операцій, що може спричинити шкоду і жертви серед цивільного населення.

Ці зміни викликають занепокоєння, що OpenAI може послабити свою позицію проти ведення бізнесу з військовими. Експерти припускають, що перехід від «військових і війни» до «зброї» може залишити місце для OpenAI для підтримки операційних інфраструктур, не пов’язаних безпосередньо з розробкою зброї.

Також було підкреслено партнерство OpenAI з Microsoft, великим оборонним підрядником, який інвестував 13 мільярдів доларів в OpenAI і перепродав програмні інструменти компанії.

Зміна політики OpenAI відбувається в той час, коли військові в усьому світі вивчають методи машинного навчання для отримання переваги. Незважаючи на занепокоєння щодо точності та фактичності результатів великих мовних моделей, таких як ChatGPT, військові залишаються зацікавленими у використанні інструментів штучного інтелекту для різних застосувань.