Злоупотребление ИИ для компрометации и увольнения директора школы

В американском городе Пайксвилл, штат Мэриленд, случился скандальный инцидент, связанный с использованием искусственного интеллекта. Учитель физкультуры школы по имени Дажон Дариен применил сервис клонирования голоса на основе ИИ с целью компрометации и увольнения директора школы. Согласно докладу газеты Baltimore Banner, данный инцидент привел к аресту злоумышленника.

Преподаватель создал аудиозапись, имитирующую голос директора школы по имени Эрик Эйсверт, и распространил её через социальные сети в январе текущего года. Содержание записи содержало расистские и антисемитские высказывания. Это привело к отстранению Эйсверта от должности. Однако аудиозапись вызвала подозрения в полиции из-за отсутствия фонового шума, пауз и звуков дыхания.

Правоохранительные органы выяснили, что аудиозапись была создана учителем физкультуры Дажоном Дариеном, чьё имя было упомянуто в фальсифицированном аудиофрагменте. По данным некоторых источников, он использовал школьные компьютеры с инструментами OpenAI и сервисом Microsoft Bing Chat. Для получения аудиозаписи Дариен предоставил свои электронную почту и номер телефона.

Полиция установила, что Дариен попытался отомстить Эйсверту из-за расследования возможных нарушений в расходовании школьных средств. В результате учителю были предъявлены обвинения в растрате, нарушении работы школы и преследования.

В свете увеличивающихся случаев неправомерного использования сервисов генерации голоса на основе ИИ, компания OpenAI ограничила применение своей платформы искусственного интеллекта Voice Engine для преобразования текста в речь. Этот сервис позволяет клонировать голос на основе 15-секундной аудиозаписи.

Важно отметить, что подобные инциденты подчеркивают необходимость бдительности при использовании передовых технологий, таких как искусственный интеллект. Следует помнить о потенциальных рисках и злоупотреблениях, которые могут возникнуть при неправомерном использовании подобных технологий.