Нейросеть угрожает концепции пользовательских рецензий

01 Сентября 2017

Игорь Бахарев

Исследователи из Чикагского университета создали бота, который на основе нейросети учится создавать фальшивые ресторанные рецензии. Как сообщает Business Insider со ссылкой на доклад ученых.

Исследователи задались целью доказать, что искусственный интеллект сейчас уже может быть использован для разработки сложных обзоров, которые не только невозможно обнаружить с помощью современных методов, но будет вызывать доверие у читателей.

Для создания рецензий были использованы рекуррентные нейросети (RNN), которые прошли обучение на нескольких тысячах настоящих онлайн-отзывов.

Вот один пример синтезированного обзора: "Я люблю это место, пришел сюда с братом. Мы заказали вкусную вегетарианскую пасту. Пиво было хорошим, а обслуживание - великолепно. Я определенно рекомендовал бы это место для тех, кто ищет, где бы позавтракать".

Людей, которые исследовали этот обзор, слегка насторожил оборот "and a small spot with a great deal" в конце текста, но они сочли его приемлимым.

Ученые дали набор настоящих и фейковых рецензий 600 пользователям. Опрос показал, что обычный человек не может отличить фейковые отзывы от реальных. Мало того, они "почти неотличимы" по своей полезности.

Тексты успешно прошли тесты на плагиат, поскольку нейросети создают уникальные обзоры, а не переписывают уже имеющиеся.

Профессор информатики университета Чикаго Бен Чжао, считает, что нейросети представляют огромную угрозу для веры людей в обзоры на интернет-сайтах. Нейросеть угрожает самой концепции пользовательских рецензий. Дело в том, что подобные технологии можно применять не только для написания ресторанных рецензий, а по всему рынку.

Сейчас качественный обзор на сервисе Yelp, например, стоит от 1 до 10 долларов. С новым инструментом их можно будет писать тысячами, причем совершенно бесплатно. "Общество ждет разочарование, так как вера в то, что реально, а что нет, будет поколеблена", - пишет Чжао.