В ЕС принят первый в мире закон, регулирующий ИИ
Европейский парламент принял исторический закон об искусственном интеллекте (ИИ), направленный на минимизацию рисков его использования. Закон запрещает определённые виды ИИ, включая "социальный рейтинг" и массовый сбор биометрических данных, и устанавливает строгие правила для высокорисковых систем. Гражданам предоставляется право на жалобы и объяснения от разработчиков ИИ. Компаниям, нарушающим закон, грозят штрафы до €35 млн или 7% годового оборота. Закон ожидает окончательного одобрения и должен вступить в силу в ближайшие годы, привнося в регулирование ИИ новый уровень прозрачности, ответственности и защиты прав граждан. Это первый в мире закон такого рода, что подчеркивается в официальном заявлении.
Ограничения и цели закона
Закон предусматривает категоризацию рисков и вводит жёсткие ограничения для высокорисковых систем ИИ. Это включает в себя создание баз данных для распознавания лиц из фотографий соцсетей, системы социального рейтинга и анализ видеозаписей для оценки психологического состояния работников и учащихся.
Минимизация социальных рисков
Закон запрещает некоторые виды использования ИИ, такие как создание "социального рейтинга" и массовый сбор биометрических данных. Он также требует маркировки искусственно созданных изображений и видеороликов.
Исключения и ограничения
Для некоторых запретов существуют исключения. Например, правоохранительные органы могут использовать биометрические системы в ограниченных случаях, но только с судебным разрешением.
Высокорисковые системы и их надзор
Для систем, представляющих серьезные угрозы, установлены строгие правила документирования и минимизации рисков. Особое внимание уделяется системам, влияющим на критическую инфраструктуру и демократические процессы.
Классификация ИИ-систем
Закон вводит классификацию ИИ-систем в зависимости от уровня риска для человека и общества. Сервисы с высоким риском подвергаются строгому контролю со стороны администраторов.
Маркировка Контента
Контент, созданный с помощью ИИ, должен быть отмечен соответствующим образом. Это касается текстов, изображений, аудио и видео, включая "дипфейки".
Создание Специализированных Учреждений
Предусматривается создание специализированных учреждений на национальном и европейском уровнях, которые будут помогать IT-компаниям и разработчикам адаптировать свои продукты к новым правилам.
Права граждан и обязанности разработчиков
Закон предоставляет гражданам право на жалобы по поводу использования ИИ и требует объяснений от разработчиков. Производители высокорисковых систем обязаны соблюдать нормы безопасности и прозрачности.
Штрафы и перспективы для разработчиков
Компании, нарушающие закон, могут быть оштрафованы на сумму до €35 млн или 7% годового оборота. Разработчики ИИ-решений могут изменить юрисдикцию, чтобы избежать ограничений.
Поддержка и Противодействие
Законопроект получил поддержку 532 парламентариев, однако 46 выступили против, а 49 воздержались от голосования.
Процесс вступления закона в силу
Закон должен пройти проверку и одобрение Советом Европы. Его полные положения начнут действовать через два года после публикации, а некоторые запреты — через полгода или год. Обязанности для производителей высокорисковых систем станут обязательными через три года.
Этот закон является важным достижением в области регулирования использования искусственного интеллекта. Он призван обеспечить защиту прав граждан и минимизировать потенциальные риски, связанные с применением ИИ. Установление четких правил и запретов не только способствует безопасному использованию технологий, но и создает основу для доверия общества к цифровым инновациям.