У п’ятницю політики Європейського Союзу погодили новий масштабний закон про регулювання штучного інтелекту, який встановлює новий глобальний орієнтир для країн, які прагнуть скористатися потенційними перевагами технології, одночасно намагаючись захиститися від її можливих ризиків.
Закон, який отримав назву “Акт про штучний інтелект”, визначає чотири категорії штучного інтелекту, які підлягають регулюванню:
1. Системи, які становлять високий ризик для безпеки або прав людини, такі як системи розпізнавання облич, що використовуються поліцією, або системи, які приймають рішення про наймання або відрахування з роботи.
2. Системи, які використовуються в критичних секторах, таких як енергетика або транспорт.
3. Системи, які використовуються для масштабного моніторингу людей, такі як системи, які збирають дані про переміщення людей за допомогою камер відеоспостереження.
4. Системи, які використовуються для створення штучного контенту, такого як глибокі фейки.
Для цих систем буде встановлено нові вимоги до прозорості, оцінки ризиків і людського нагляду. Компанії, які порушують ці правила, можуть бути оштрафовані на суму до 7 відсотків від світового обсягу продажів. Угода є значним регуляторним проривом, оскільки вона є першою в світі спробою комплексного регулювання штучного інтелекту. Вона також є важливим кроком для Європи, яка прагне стати глобальним лідером у галузі штучного інтелекту.
Однак, як зазначає Кріс Шрішак, старший науковий співробітник Ірландської ради з громадянських свобод, успіх закону буде залежати від його ефективного правозастосування. “Регуляторна доблесть ЄС під питанням”, – каже він. “Без ефективного правозастосування ця угода не матиме жодного сенсу”.
Ось деякі з ключових положень закону про штучний інтелект:
1. Системи, які становлять високий ризик для безпеки або прав людини, будуть піддаватися найсуворішому регулюванню. До таких систем належать системи розпізнавання облич, що використовуються поліцією, або системи, які приймають рішення про наймання або відрахування з роботи. Компанії, які розробляють або використовують такі системи, повинні будуть надати регуляторам докази оцінки ризиків, розбивку даних, які використовувалися для навчання систем, і гарантії того, що програмне забезпечення не завдає шкоди, наприклад, увічнює расові упередження. Людський нагляд також буде необхідний при створенні та розгортанні систем.
2. Системи, які використовуються в критичних секторах, таких як енергетика або транспорт, також будуть піддаватися суворому регулюванню. Компанії, які розробляють або використовують такі системи, повинні будуть надати регуляторам докази того, що системи надійні та безпечні.
3. Системи, які використовуються для масштабного моніторингу людей, також будуть піддаватися регулюванню. Компанії, які розробляють або використовують такі системи, повинні будуть надати регуляторам інформацію про те, як збираються і використовуються дані.
4. Системи, які використовуються для створення штучного контенту, також будуть піддаватися регулюванню. Компанії, які розробляють або використовують такі системи, повинні будуть чітко вказувати, що контент був створений штучним інтелектом.
Закон про штучний інтелект ще має пройти кілька завершальних етапів для затвердження, але політична домовленість означає, що його ключові контури вже визначені.
