Ложные заголовки ИИ угрожают точности новостей
Ложные заголовки ИИ угрожают точности новостей
В 2024 году Apple анонсировала новые модели искусственного интеллекта для интеграции в iPhone, но на данный момент многие функции работают нестабильно и только на английском языке. Это вызвало беспокойство, особенно среди журналистов и представителей СМИ, когда искусственный интеллект начинает генерировать ложные заголовки, которые искажают факты. Например, недавно появилась фейковая новость о том, что Луиджи Манджионе, обвиняемый в убийстве генерального директора медицинской страховой компании в Нью-Йорке, якобы застрелился. Такое недоразумение только подчеркивает уязвимость современных технологий при создании новостного контента. Всё это ставит под сомнение репутацию и точность новостей, а также вызывает призывы к Apple пересмотреть и улучшить систему ИИ, чтобы избежать дальнейших ошибок и дезинформации.
Неудовлетворительная работа
Журналисты выразили озабоченность по поводу работы функции генерации новостных сводок на основе искусственного интеллекта компании Apple, призывая отключить ее из-за недопустимых ошибок. Одним из самых громких случаев стал инцидент, связанный с ложным уведомлением, в котором утверждалось, что Луиджи Манджионе, обвиняемый в убийстве, покончил с собой. Ошибочное сообщение, созданное с помощью Apple Intelligence, мгновенно распространилось в социальных сетях, что лишь усугубило недоверие к новостным сводкам на основе ИИ. BBC подала официальную жалобу к Apple, потребовав не только исправления данной ошибки, но и более строгого контроля за точностью автоматически создаваемого контента. Это подчеркивает критическую важность доверия к медиа-контенту и независимости от внешних технологий, ошибки которых могут негативно сказаться на репутации СМИ и их отношениях с аудиторией.
Призыв к запрету
Международная неправительственная организация «Репортеры без границ» выразила серьезную озабоченность по поводу использования генеративного искусственного интеллекта в сфере новостей и призвала к полному запрету этих технологий. Они аргументируют свою позицию тем, что текущие системы ИИ ещё не способны обеспечить необходимую достоверность информации, которую требуют СМИ. На их взгляд, угроза дезинформации от таких автоматизированных систем значительно превышает преимущества, которые предоставляют автоматические новостные сводки.
По словам руководителя отдела технологий организации, производство ложной информации подрывает право общества на получение точной и достоверной информации о происходящих событиях. Он обращает внимание на существующий правовой вакуум: действующий европейский закон об ИИ не включает генерацию информации в категорию систем повышенного риска. Это создает критическую необходимость для законодателей немедленно разработать и внедрить регуляции, способные защитить общество от последствий дезинформации и гарантировать высокие стандарты качества новостей.
Взгляд в будущее
Проблемы с Apple Intelligence демонстрируют, что надежность ИИ в обработке конфиденциальной информации все еще находится под вопросом. Хотя современные технологии разрабатываются с целью упростить рабочие процессы, они часто не способны захватить необходимые контексты и нюансы, критически важные для точного освещения новостей. Когда даже авторитетные источники информации начинают искажаться из-за ошибок автоматических систем, риск возникновения недопонимания среди аудитории резко возрастает.
В этом контексте крайне важно провести тщательное тестирование и контроль ИТ-систем, внедряющихся в процесс создания новостей. Инциденты с BBC и New York Times служат тревожным сигналом о последствиях чрезмерной зависимости от ИИ в производстве контента. Возникает правомерный вопрос: стоит ли удобство автоматизированных технологий потенциального риска дезинформации? Несмотря на быстрый прогресс нейронных сетей, человеческий фактор в журналистике остается ключевым, так как только люди способны на критическое мышление и понимание сложных социальных контекстов, что важно для установления и поддержания доверительных отношений с читателями.