Чешская фирма Cogniware нашла управу на fake news

Фото: memyselfaneye, Pixabay / CC0

Ежедневно в сети Интернет появляется огромное количество информации. Из всего этого потока человека может интересовать лишь незначительная часть. При этом непросто, и, зачастую, это занимает огромное количество времени, чтобы выяснить, какой информации можно верить. Так называемые fake news или дезинформация, стали сегодня неотъемлемой частью нашей жизни. Но и для укрощения неправдивой информации нашлось оружие.

Мартин Черны,  фото: Cogniware

Распространение дезинформации в сети Интернет и, в особенности, в социальных сетях – явление не новое. Тем не менее, в последнее время, в частности в связи с пандемией коронавируса, скорость, с которой разлетаются fake news набирает обороты. Люди проводят больше времени дома за компьютерами, и, соответственно, становятся более подвержены дезинформационным «атакам». Как рассказал Radio Prague International Мартин Черны, возглавляющий Глобальную партнерскую сеть в компании Cogniware, со стороны клиентов компании назрел интерес к решению данной проблемы, а потому фирма, располагающая собственной командой разработчиков, приступила к созданию специального софтвера при поддержке Технологического агентства Чешской Республики.

Этот софтвер не принимает самостоятельных решений относительно того, является ли информация правдивой или нет. Он является как бы переходным звеном на пути к распознанию лживой информации.

«Мы уже долгое время занимаемся разработкой решений для поддержки расследований полицейских и иных силовых органов. Эта сфера для нас относительно новая. Мы всегда выпускаем софтвер «под ключ» для конкретной структуры, которая занимается решением данной проблемы. Он всегда создается для конкретного государства, конкретной компании. Целью нашей разработки является поддержка и помощь в распознавании fake news таким образом, что она обращает внимание на статьи и иные материалы, в которых велика вероятность присутствия дезинформационных элементов. Под такими элементами понимается информация, которая способна навредить или очернить конкретную личность или даже государство. Этот софтвер не принимает самостоятельных решений относительно того, является ли информация правдивой или нет. Он является как бы переходным звеном на пути к распознанию лживой информации. То есть вместо того, чтобы человек выискивал fake news в целом информационном потоке, софтвер предлагает ему обратить внимание на конкретные материалы», - разъясняет Мартин Черны.

Принятие конечного решения - за человеком

Из этого становится очевидно, что софтвер для распознавания fake news не является чем-то универсальным. При его разработке всегда делается акцент на специфику конкретного региона – от языка до тона, использующегося там.

«В настоящее время мы работаем, например, с арабским, чешским и английским языками. Поэтому мы «тренируем» нашу разработку как для языка, так и для тона сообщений в данных регионах. Сначала система должна получить значительное количество сообщений, которые считаются в конкретном регионе дезинформацией. Из них она «считывает» характерный тон, в котором на этом языке распространяются fake news. Эта система, не проводит, - хотя и могла бы, - проверку фактов. Принятие конечного решения остается за человеком, который должен оценить как саму информацию, так и бэкграунд на котором она возникла. Система лишь обращает его внимание на то, что информация создана искусственно, что это "утка"».

Фото: Cogniware

Если мы хотим приоткрыть завесу тайны того, как на практике функционирует софтвер для распознавания дезинформации, система Cogniware в основном работает с двумя моделями. Один анализирует графическую информацию и распознает характерные внешние элементы, которые определяют фальшивые новости: например, дезинформация часто характеризуется использованием заглавных букв, восклицательных знаков или заглавных букв в заголовках. Вторая область – это то, как распространяется сообщение, как отдельные получатели реагируют на него, куда они его пересылают, и как быстро оно распространяется. Что является важным показателем – дезинформация характеризуется тем, что она распространяется со скоростью молнии и часто отправляется на определенные веб-сайты.

«Если кто-то хочет искусственно вызвать сенсацию или же послать сообщение, которое должно получить как можно больше людей, для этого существует множество инструментов. Поэтому здесь неважно иметь целую базу данных правд и неправд, необходим лишь обучающий набор, с помощью которого система научится их распознавать. Тогда уже будет неважно, знает ли она конкретную тему, она просто сумеет вычислить подозрительность сообщения».

 Главный принцип - профилактика

Фото: Cogniware

Помимо визуальных сообщений новый софтвер умеет распознавать дезинформационные элементы также в видео и аудио материалах – то есть определить подлинность лица и голоса. Чаще всего эта методика служит для подтверждения подлинности личности. Например, является ли человек, появляющийся в видео тем, чей голос звучит. Как подчеркивает Мартин Черны, решение, разработанное компанией Cogniware служит, скорее, профилактическим целям. Проявляют ли к нему интерес государственные структуры?

«Да, проявляют, и именно в этом направлении мы ожидаем больше всего возможностей для сотрудничества. Например, наш софтвер может оказаться очень эффективным в особо актуальной на сегодняшний день области здравоохранения. С его помощью можно определить, что кто-то заинтересован в подаче неправдивой информации, например, в области распространения коронавируса или вакцины от него. Здесь даже не столь важно удалять такие сообщения или разыскивать того, кто их отправляет (зачастую это и невозможно), сколько вовремя узнать, что такая информация распространяется и выпустить ее опровержение. Например, информировать из официальных источников, как в действительности обстоят дела с той же вакцинацией, а также обратить внимание на то, что на эту тему распространяются неправдивые сообщения», - продолжает Мартин Черны, возглавляющий Глобальную партнерскую сеть в компании Cogniware.

Иллюстративное фото: pixel2013 / Pixabay,  CC0

- Немного ранее вы упомянули, что работаете и с арабским языком. В чем отличие дезинформационных сообщений в арабском мире от Чешской Республики?

«Дезинформация там не так уже сильно отличается от того, что происходит у нас. Конечно, там есть и свои особенности, но, например, что касается пандемии, с дезинформацией в этой области борются одинаково, как в Чешской Республике, так и в арабских странах. Что в этих странах значительным образом отличается от нас – это ситуация с безопасностью. В этом регионе терроризм представляет реальную угрозу. Именно с этим связан тот факт, что в этих странах государство и органы, отвечающие за безопасность, инвестируют в средства борьбы с терроризмом значительно большие суммы».