Apple PCC та наміри щодо приватності завдяки ШІ

Apple запустила Private Cloud Compute (PCC), нову послугу, призначену для безпечної та приватної обробки даних штучного інтелекту в хмарі. PCC поширює відому систему конфіденційності та безпеки Apple від пристроїв до хмари, використовуючи спеціальне обладнання Apple, вдосконалену операційну систему та широкі заходи прозорості, щоб встановити новий стандарт у захисті даних користувачів.

У міру того, як штучний інтелект стає все більш інтегрованим у наше життя, ризики для приватності зростають, враховуючи величезні обсяги конфіденційних даних, які вимагають системи штучного інтелекту. Традиційно користувачі довіряють безпеку своїх даних хмарним провайдерам послуг ШІ, але ця модель має недоліки, зокрема непрозорі практики конфіденційності, відсутність видимості в реальному часі та ризики, пов’язані з внутрішніми загрозами.

PCC має на меті розв’язати ці проблеми, застосовуючи до хмарного ШІ захист конфіденційності на пристроях від Apple. Ця послуга забезпечує обчислення без втручання третіх осіб, забезпечує гарантії, що мають юридичну силу, відсутність привілейованого доступу під час виконання, нецільову спрямованість і прозорість, яку можна перевірити. Ядро PCC побудовано на спеціальному серверному обладнанні та захищеній операційній системі, що забезпечує безпеку технології Apple, включаючи Secure Enclave та Secure Boot, у центрі обробки даних. Він також має хмарні розширення, орієнтовані на конфіденційність, і спеціальний стек машинного навчання для безпечного хмарного штучного інтелекту.

Ключовою відмінністю PCC є його прихильність до прозорості. Apple публікуватиме образи програмного забезпечення кожної виробничої збірки, що дозволить дослідникам перевіряти та звіряти код з тим, що працює у виробництві. Криптографічно підписаний журнал прозорості гарантує цілісність, а користувацькі пристрої надсилають дані лише до перевірених вузлів PCC. Apple також надає експертам з безпеки широкі можливості для аудиту системи за допомогою програми Apple Security Bounty.

На противагу цьому, сервіс штучного інтелекту Recall від Microsoft зіткнувся зі значними проблемами з конфіденційністю та безпекою, що підкреслює різницю в підходах. Recall зберігав конфіденційні дані у вигляді простого тексту, що дозволяло використовувати їх, попри заяви про безпеку. Цей інцидент підкреслює важливість вбудовування конфіденційності та безпеки в системи ШІ з самого початку, як це було зроблено на прикладі PCC.

Попри надійний алгоритм роботи PCC, потенційні вразливості залишаються, наприклад, апаратні атаки, інсайдерські загрози, криптографічні вразливості та проблеми з компонентами, що не входять до складу PCC. Крім того, користувацькі пристрої самі по собі залишаються значним ризиком для конфіденційності, оскільки вони вразливі до різних атак, які можуть скомпрометувати дані.

Хоча PCC являє собою досить потужний розвиток хмарного штучного інтелекту, який зберігає конфіденційність, проблеми та вразливості все ще залишаються. Послуга пропонує багатонадійне бачення майбутнього, в якому просунутий ШІ та конфіденційність співіснують, але реалізація цього бачення вимагатиме постійних технологічних інновацій і фундаментальних змін у відповідальності за конфіденційність даних.