Новый софтвер с помощью ИИ помогает людям развивать критическое мышление
Ученые из Брненского технического университета разрабатывают инструмент, который с помощью искусственного интеллекта проверяет факты в онлайн-комментариях. Проект призван помочь журналистам и компаниям выявлять манипуляции и дезинформацию в интернет-дискуссиях. При этом, по словам разработчиков, цель системы заключается не в том, чтобы определять, что является правдой, а что ложью. Она должна предоставлять пользователям доказательства, контекст и дополнительную информацию, чтобы они могли самостоятельно формировать собственное мнение и делать выводы.
«Проект, над которым мы работаем, называется FactDeMice, поскольку его цель – противодействовать упадку культуры фактов в интернете», - рассказывает Мартин Файчик с факультета информационных технологий Брненского технического университета. На экране компьютера он демонстрирует программу, которая с помощью искусственного интеллекта должна проверять достоверность утверждений в онлайн-дискуссиях.
По словам исследователя, система ориентирована прежде всего на борьбу с дезинформацией в разделах комментариев на новостных платформах. Она анализирует опубликованные сообщения и помогает выявлять сомнительные или вводящие в заблуждение утверждения, предоставляя пользователям дополнительный контекст и подтверждающие источники. С чем конкретно работает данный софтвер?
«Система выявляет утверждения, которые имеет смысл проверить, а затем ищет доказательства, способные либо опровергнуть, либо подтвердить их. На основе этой информации человек может самостоятельно сформировать свое мнение о конкретном комментарии», - объясняет Люция Макайова с факультета информационных технологий Брненского технического университета.
Например, мы открываем статью, в которой рассказывается о пожарах в Крае Высочина. Если мы спустимся вниз, чтобы прочитать комментарии, система обнаруживает там следующее утверждение:
«Снова паника. В регионе Высочина якобы горит в трех местах. На самом деле речь шла только об одном более крупном пожаре возле города Тржешть. Туда пожарные направили 13 подразделений и вертолет. А в Горнице это был всего лишь небольшой участок травы площадью в несколько метров».
Как с таким комментарием поступит система? Как рассказал Мартин Файчик, она находит в статье утверждения, которые стоит проверить. Например, то, что в Крае Высочина пожары были не в трех местах, а только в одном. То есть, комментарий подвергает сомнению, что было три пожара. Факт-чекинг, который проводит система, опровергает этот комментарий и подтверждает, что на самом деле огонь был зафиксирован в трех местах.
«Или, например, можно усомниться в том, что там участвовало 13 пожарных подразделений. В ходе проверки выясняется, что на самом деле участвовало не 13, а восемь подразделений. Зато подтверждается, что был задействован вертолет. Важно то, что система также дополняет информацию непосредственными данными и выделяет, где именно в этих данных находится нужная информация», - продолжает Мартин Файчик.
По словам разработчиков, программное обеспечение может использовать проверенные источники, например, статьи сайтов, оцениваемых Фондом независимой журналистики, а также другие общедоступные онлайн-источники.
«Ошибки в этом программном обеспечении могут возникать, но мы за это не несем ответственности, поскольку мы разработали сам софтвер. А то, что именно система ищет, и как она это использует, зависит от компании, которая затем использует его дальше, например, новостной платформе».
А вот следующий комментарий под другой статьей, касающийся высказывания президента Чехии Петра Павела о войне в Украине: «Его видно только тогда, когда речь идет о помощи Украине, в других случаях я его особо не замечал».
«Система должна, например, отслеживать информацию о том, что президент Павел представляет Чехию за рубежом и часто выступает в онлайн-интервью».
Система здесь добавляет контекст: поскольку президент уже некоторое время находится в должности, он выступал во многих СМИ и посетил разные регионы страны, из чего следует, что его присутствие не ограничивается только темами, связанными с Украиной.
«Мы не пытаемся помечать комментарий как правдивый или ложный. Это не наша цель, и наш софтвер не работает таким образом. Важно, чтобы люди сами сделали вывод – мы лишь предоставляем им доказательства», - заключает Мартин Файчик с факультета информационных технологий Брненского технического университета.
Брненские ученые работают над проектом также совместно с коллегами из Тайваня. Те хотят использовать тот же принцип для выявления фальшивых рецензий, например, о ресторанах. Рабочая версия системы может быть готова уже в следующем году, однако сначала ее ждет тестирование на практике.
