Нове програмне забезпечення, розроблене дослідниками Університету Суррея, може перевірити, скільки інформації насправді знає штучний інтелект

За останні кілька років у сфері штучного інтелекту (ШІ) відбулося кілька технологічних проривів, які глибоко вплинули на кілька галузей і секторів. Штучний інтелект має значний потенціал, коли йдеться про повну революцію в галузі охорони здоров’я, трансформацію роботи бізнесу та взаємодії людей з технологіями. Однак, навіть при широкому впровадженні технології штучного інтелекту, яке в найближчі роки тільки зростатиме, необхідно забезпечити певні речі. Саме тут необхідність забезпечення заходів безпеки для захисту системи штучного інтелекту та даних, на які вона покладається, набуває все більшого значення. Для навчання системи штучного інтелекту значною мірою покладаються на дані, які можуть містити конфіденційну та особисту інформацію. Як наслідок, для дослідників і розробників надзвичайно важливо розробити надійні заходи безпеки, які можуть запобігти атакам на такі системи ШІ та гарантувати, що конфіденційна інформація не буде викрадена.

У цьому контексті безпека додатків зі штучним інтелектом стала гарячою темою серед дослідників і розробників, оскільки вона безпосередньо впливає на кілька інституцій, таких як уряд, бізнес тощо, в цілому. Свій внесок у цю хвилю досліджень зробила команда дослідників з кафедри кібербезпеки Університету Суррея, яка створила програмне забезпечення, що може перевірити, скільки інформації система штучного інтелекту зібрала з бази даних організації. Програмне забезпечення також може визначити, чи виявила система штучного інтелекту будь-які потенційні недоліки в програмному коді, які можуть бути використані для зловмисних операцій. Наприклад, програмне забезпечення може визначити, чи став ШІ-шахіст непереможним через потенційну помилку в коді. Один з основних варіантів використання, який розглядають дослідники з Суррея для свого програмного забезпечення, – це використання його як частини протоколу онлайн-безпеки компанії. Тоді бізнес зможе краще визначити, чи може ШІ отримати доступ до конфіденційних даних компанії. Програмне забезпечення для верифікації Суррея також отримало нагороду за найкращу доповідь на поважному 25-му Міжнародному симпозіумі з формальних методів.

З широким впровадженням ШІ в наше повсякденне життя можна з упевненістю припустити, що ці системи повинні взаємодіяти з іншими системами ШІ або людьми в складних і динамічних середовищах. Наприклад, самокеровані автомобілі повинні взаємодіяти з іншими джерелами, такими як інші транспортні засоби та датчики, щоб приймати рішення під час навігації в дорожньому русі. З іншого боку, деякі компанії використовують роботів для виконання певних завдань, які потребують взаємодії з іншими людьми. У таких ситуаціях забезпечення безпеки систем штучного інтелекту може бути особливо складним завданням, оскільки взаємодія між системами та людьми може призвести до появи нових вразливостей. Таким чином, щоб розробити рішення для цієї проблеми, першочерговим кроком є визначення того, що насправді знає система штучного інтелекту. Це питання вже кілька років є цікавою дослідницькою проблемою для ШІ-спільноти, і дослідники з Університету Суррея запропонували дещо новаторське.

Програмне забезпечення для верифікації, розроблене дослідниками з Суррея, може визначити, як багато ШІ може дізнатися з їхніх взаємодій і чи знає він достатньо або занадто багато, щоб поставити під загрозу конфіденційність. Для того, щоб точно визначити, що саме знають системи штучного інтелекту, дослідники визначили логіку “програмної епістеми”, яка також включає міркування про майбутні події. Дослідники сподіваються, що, використовуючи їх унікальне програмне забезпечення для оцінки того, чому навчився штучний інтелект, компанії зможуть безпечніше впроваджувати ШІ у свої системи. Дослідження Університету Суррея є дуже важливим кроком у забезпеченні конфіденційності та цілісності навчальних наборів даних. Завдяки цим зусиллям прискориться темп досліджень, спрямованих на створення надійних і відповідальних систем штучного інтелекту.