Четвёртый семинар по искусственному интеллекту (ИИ) и цифровой трансформации был посвящён важной проблеме автоматического выявления фальшивых (фейковый) новостей. В рамках мероприятия научная группа Кафедры Информационных Систем ГЭУП представила последние результаты текущего проекта, цель которого — разработка инновационных решений на основе ИИ для выявления ложного контента, размещаемого в интернете.
Проверка достоверности информации в интернете является чрезвычайно сложным процессом, требующим глубокой лингвистической и контекстной аналитики. Инструменты на базе искусственного интеллекта должны точно распознавать тонкие языковые нюансы, определяющие подлинность контента. Ситуацию усложняет огромный объем данных, ежедневно генерируемых в интернете, а также постоянно совершенствующиеся методы манипуляций и создания фейковых новостей.
Создание эффективных решений для автоматического обнаружения фейковых новостей требует междисциплинарного взаимодействия специалистов из различных областей, таких как информатика, лингвистика, психология, медиаведение и аналитика данных. Только интеграция знаний и опыта экспертов из этих направлений позволит разработать системы, способные эффективно выявлять дезинформацию.
Ещё одним важным вызовом является необходимость анализа различных источников информации, таких как новостные порталы, социальные сети, форумы и блоги. Системы на основе ИИ должны не только обрабатывать большие объемы информации в реальном времени, но и определять, какие сообщения требуют незамедлительного вмешательства из-за потенциального социального ущерба или высокой скорости распространения. Особенно важно правильно расставлять приоритеты при проверке сообщений, имеющих значительное общественное или политическое значение.
Модели машинного обучения способны автоматически предлагать к подробному анализу информацию, потенциально содержащую риски. Однако понимание намерений авторов сообщений, выявление сарказма, иронии или эмоциональных манипуляций остаются сложными и критически важными задачами.
Искусственный интеллект позволяет оперативно сопоставлять данные из множества источников, таких как базы знаний, официальные документы, статистика и экспертные отчёты. Автоматизированная оценка достоверности информации и выявление источников манипуляций помогают не только эффективно бороться с дезинформацией, но и защищать пользователей от её негативных последствий.
Потенциал ИИ в этой области огромен — технологии способны повысить общественную осведомлённость, способствовать формированию более информированного общества и улучшению качества публичного диалога. Несмотря на многочисленные вызовы, развитие таких инструментов крайне необходимо в эпоху доминирования цифровых каналов коммуникации.
Семинар состоялся 24 февраля 2025 года в Государственном Экономическом Университете в Познани.
Источники: kie.ue.poznan.pl, ue.poznan.pl