Нейросеть научили распознавать фейки в «Википедии»
«Википедия» давно стала главным источником знаний в интернете. Ее основное преимущество по сравнению с бумажными энциклопедиями — возможность любому пользователю обновлять и актуализировать информацию. Отсюда же вытекает и главный минус — если править ее может кто угодно, значит, и доверия к ней меньше, чем к привычному справочнику с полки. Исправить такое положение дел готова новая нейросеть SIDE.
Компания Samaya AI разработала модель искусственного интеллекта SIDE, которая анализирует ссылки в «Википедии» и делает вывод о том, подтверждают ли они те утверждения, к которым привязаны. Если нет, программа предлагает лучшую альтернативу. Нейросеть обучалась на избранных страницах сетевой энциклопедии, которым уделяют много внимания редакторы и модераторы сервиса. ИИ оценивал претензии пользователей на некачественные ссылки и сканировал интернет в поисках авторитетных источников, ранжируя варианты замены.
«Википедия» появилась в январе 2001 года благодаря предпринимателю Джимму Уэйлзу и главному редактору онлайн-энциклопедии Nupedia Ларри Сэнгеру (придумал название Wikipedia). Более чем за два десятилетия существования их проект стал одним из главных в интернете и сейчас объединяет свыше 110 млн пользователей и без малого 300 тыс. редакторов. Русский вариант «Википедии» был запущен в мае 2001 года, и сегодня там почти 2 млн статей — это седьмой показатель в сравнении с версиями на других языках.
Джимми Уэйлс и Ларри Сэнгер Фото: © Gareth Chaney / CC BY-SA 3.0
Потом систему протестировали на незнакомых ей страницах «Википедии». Примерно в каждом втором случае предложенная нейросетью ссылка уже была в статье. Другим линкам она нашла замены. После этого создатели SIDE провели опрос среди пользователей интернет-энциклопедии, и оказалось, что каждый пятый предпочел ссылки от ИИ. Примерно 10 % людей были довольны старыми вариантами, а около 40 % не смогли определиться. Результатами своей работы разработчики из Samaya AI поделились в журнале Nature Machine Intelligence.
SIDE может стать удобным инструментом для редакторов и модераторов «Википедии», однако результаты опроса говорят о том, что модель требует доработки. Так что пока энциклопедистам, видимо, придется работать по старинке.
