Проблема подделки цитат в журналистике с помощью искусственного интеллекта
В последнем исследовании, проведённом в сентябре 2023 года, журналист Коди из CBS News столкнулся с серьёзной проблемой: искусственный интеллект начал генерировать фальшивые цитаты и истории, вводя в заблуждение как читателей, так и редакторов. Использование AI для создания контента вызывает опасения в журналистском сообществе, поскольку информационные манипуляции могут угрожать объективности новостей.
История инцидента с фальшивыми цитатами
В своём расследовании Коди обнаружил, что некоторые из фальшивых цитат исходили из вымышленных источников или неправильно интерпретировались. Эти поддельные истории часто звучат так правдоподобно, что их можно запросто принять за реальные. Например, одна из таких «цитат» касалась местной проблемы в Вайоминге, связанной с экологией, и была представлена так, будто принадлежала известному эксперту.
Согласно данным, представленным в статье, некоторые автоматизированные системы, использующие алгоритмы машинного обучения, могут создавать текст, практически не отличимый от написанного человеком. Это ставит под угрозу традиционные практики проверки фактов, так как редакторы могут не заметить подмену.
Ответные меры и решения
В ответ на растущее беспокойство об использовании AI в журналистике, редакционные команды начали активнее применять технологии проверки фактов и внедряют инструменты для идентификации подделок. Компании начали обучать своих сотрудников различать подлинный и сгенерированный контент, а также разрабатывать специальные методики для работы с информацией, получаемой от ИИ.
- Проверка фактов в реальном времени;
- Интернальное обучение по распознаванию фальшивок;
- Использование специализированных программ для анализа содержания.
Будущее журналистики в эпоху AI
Представители журналистского сообщества призывают к более строгому регулированию использования искусственного интеллекта в СМИ. Ожидается, что на наступление такой эпохи повлияет Global Reporting Initiative, осуществляющая мониторинг изменений в медиапейзаже. Человек и технологии должны работать в тандеме, чтобы сохранить доверие публики к новостям.
Итак, журналистика находится на распутье: с одной стороны, новые технологии открывают множество возможностей для работы с текстами, с другой — они создают новые вызовы в области достоверности информации. Необходимость в прозрачности и ответственности в этой сфере становится как никогда актуальной.
