Бороться с фейковыми новостями поможет нейросеть

Многие люди теперь предпочитают читать новости в социальных сетях. В этой ситуации вопрос доверия к информации актуален как никогда. Мы живем в эпоху «постправды», когда эмоции замещают факты, a фейки – новости. Из-за активного использования «фальшивых» новостей возникла острая необходимость в проверке информации – организация фактчекинга. Общественная палата Нижегородской области вместе с представителями Университета Лобачевского разрабатывают инструменты проверки фактической информации. О последних достижениях в этой области эксперты говорили на круглом столе, который состоялся в Доме народного единства.

Отделить зерна от плевел.

– Пользователям сегодня доступна оценка прочитанного сообщения смайликом. В будущем новости можно будет не только лайкать, но и проверять на достоверность с помощью возможностей искусственного интеллекта (ИИ). Не исключено, что в скором времени под каждым новостным сообщением появится соответствующий значок, – обрисовал возможные перспективы развития фактчекинга специалист в области ИИ Илья Померанцев.

Научные исследования в области проверки информации на достоверность в Институте филологии и журналистики ННГУ им. Н.И. Лобачевского ведутся с 2020 года. Сначала работа осуществлялась в партнерстве с зарубежными коллегами под эгидой Европейской ассоциации преподавания журналистики (EJTA). В марте 2022 года нижегородский университет начал реализовывать свой независимый проект по фактчекингу под названием #СТУДFACTCHECK.

На данный момент студентами исследовано 35 сюжетов на самые разные темы. В основном ребята проверяют научно-популярные новости, связанные с искусственным интеллектом, космосом, генной инженерией. Например, с помощью технологии фактчекинга была проверена новость о том, было или нет в Нижегородской области полярное сияние. Ребята собрали доказательства, статистику, взяли интервью у эксперта и выяснили, что это правда.

Задавались студенты и такой темой «Мораль и этические ценности ChatGPT: есть ли у ИИ четкая нравственная позиция?». Удалось доказать, что искусственный интеллект не обладает моралью, у него есть только настройки. Предметом интереса студентов была тема «Можно ли подключиться к виртуальному миру, как в фильме «Матрица». Волнует будущих журналистов и то «Как искусственный интеллект может повлиять на образование?». Ребята проанализировали статьи, опубликованные в 2023 году в зарубежных и российских СМИ для того, чтобы выделить преимущества и недостатки ИИ, применяемого в образовательных целях. Был сделан вывод, что ChatGPT становится инструментом для написания школьных сочинений и других работ, помощником в ходе оценивания и разбора ошибок, а также эффективно помогает развивать критическое мышление у обучающихся.

Конечно, гуманитариям непросто разбираться в темах, связанных с информационными технологиями, однако содружество с экспертами из сферы IT позволяет браться за фактчекинг и таких новостей. Стоит отметить, что проект #СТУДFACTCHECK внеучебный, его участниками стали студенты разных курсов. Они объединены в группы и сами выбирают заинтересовавшие их сюжеты. С 2022 года студенческие работы можно прочитать не только на русском, но и на английском языках.

– Проблема распространения ложной, недостоверной информации, откровенных фейков очень актуальна для нашей страны в свете последних политических событий. Информация обязательно должна каким-то образом проверяться. Если она недостоверна, то ее распространение должно пресекаться. Это сегодня очень важная общественная задача, – говорит кандидат филологических наук, заместитель директора Института филологии и журналистики ННГУ им. Н.И. Лобачевского, руководитель проекта #СТУДFACTCHECK Людмила Макарова.

ИИ привлекли на помощь.

Один из активных участников проекта #СТУДFACTCHECK четверокурсник Даниил Буйлов. Будучи третьекурсником, ему даже довелось быть куратором исследований, которые велись с партнерами ННГУ Удмуртским госуниверситетом.

По словам Даниила, технология проведения фактчекинга в ручном режиме уже хорошо отработана. В какой-то момент появилось понимание того, что некоторые процессы можно автоматизировать, создав нейросеть. Партнеры из сферы IT подтвердили, что технически это возможно, и сейчас идет работа над комплексным решением автоматического фактчекинга. 
На круглом столе консультанты и эксперты студенческого проекта – системный аналитик ООО «БИ-ТЕЛЕКОМ» Юрий Баташев и руководитель направления ИИ компании «GLOBUS IT» Илья Померанцев представили концепцию и прототип информационной платформы и рассказали о перспективах создания нейронной сети по верификации информации на базе существующих вариантов технологии GPT и других технологических решений.

Нейросети активно используются в рамках информационной войны, и важно, чтобы были сервисы, которые могли бы противостоять ложной информации. Пока не удалось создать сервис, который мог бы полностью в автоматическом режиме проверять, является ли новость фейком или нет. Но опознавать видеодипфейки (синтезированные с помощью нейросети, когда лицо одного человека накладывается на видеоизображение другого) уже научились.

– Я вижу дальнейшие перспективы развития проекта #СТУДFACTCHECK именно в реализации возможностей, которые открываются с привлечением искусственного интеллекта и информационных технологий для проверки информации СМИ и социальных медиа, – отметила руководитель #СТУДFACTCHECK Людмила Макарова. 

Как отметил директор филиала Российского общества «Знание» в Нижегородской области Александр Митрофанов, противостоять ложной информации можно только всем миром. Необходима консолидация усилий государства, общества, образовательных и общественных организаций и бизнеса.

Мнения.

Председатель комиссии Общественной палаты Нижегородской области по вопросам гражданского общества и информационной политике Назарий Зеленый:

–  Мы живем в мире, где поток информации огромен. Наши граждане, потребители информации часто оказываются заложниками фейковых новостей. Университет Лобачевского уже не первый год реализует проект #СТУДFACTCHECK. Студенты учатся проверять информацию на достоверность, и это важная компетенция будущих журналистов. Любому человеку не помешает умение разбираться в том, насколько информация соответствует действительности, знать, каким образом можно проверить новость на достоверность.  Чтобы понять, что новость фейковая, необходимо включать критическое мышление, анализировать то, что вы читаете, перепроверять информацию. 

Руководитель Центра управления регионом (ЦУР) Алексей Ушаков:

– Реагировать на фейковую новость нужно как можно быстрее и это проблема – недостоверная информация распространяется молниеносно, а подготовка и выпуск опровержения всегда требуют времени. В прошлом году мы отработали порядка 100 фейков, и 20 процентов из них были федеральными. Хотелось отметить две ключевые вещи, которые важны в противодействии распространению ложной информации, дестабилизирующе действующей на социальное самочувствие общества. Во-первых, люди должны знать простые правила, как отличить фейк от достоверной информации. (Для этого следует пользоваться официальными источниками, обращать внимание на то, кто распространяет ту или иную новость.) Во-вторых, в соцсетях фейки используют для привлечения подписчиков. Есть блогеры, которые это делают регулярно. Хотелось бы, чтобы правоохранительные органы, Роскомнадзор обратили на это внимание.

Между тем.

В 2023 году в университете Лобачевского открылась новая магистерская программа «Искусственный интеллект и журналистика данных». Это совместный проект Института филологии и журналистики и Института информационных технологий, математики и механики ННГУ. В этом году стартует программа бакалавриата «Цифровая журналистика и новые медиа». Есть отдельные дисциплины, имеющие отношение к фактчекингу, к верификации информации, планируется, что они тоже будут включать в себя модули по изучению возможностей ИИ для фактчекинга.

Справка «НН».

Фейк – в переводе с английского – под­делка.

Фактчекинг – это проверка сообщений в СМИ и социальных медиа с использованием определенных технологий, с помощью которых выявляются несоответствия между публикуемыми фактами и теми, что существуют в реальности.

Верификация – проверка, подтверждение или опровержение массово и вирально (с большой скоростью подобно вирусу) распространяемых данных, на достоверность. 

Ресурсы, которые профессионально занимаются деятельностью по верификации информации:

• www.factcheck.org.
• fullfact.org.
• войнасфейками.рф.
• www.snopes.com.

Александра Махлина.

https://nnews.nnov.ru/posts/97307-borotsya-s-feykovymi-novostyami-pomozhet-neyroset

«Нижегородские новости», публикация от 29 мая 2024 года № 31(6543), размещено на сайте 3 июня 2024 года.