Оценить материал
Еще читать в этом разделе
- 05.26Бывший инженер NASA запустил сервис для создания селфи из космоса
- 04.26Вежливость пользователей в переписке с ChatGPT обходится разработчикам в десятки миллионов долларов
- 03.31Искусственный интеллект все чаще спасает «безнадежных» пациентов
- 03.23Первый компьютер Apple ушел с молотка почти за $375 тысяч
- 03.15Наушники Apple AirPods смогут переводить разговоры в реальном времени
Искусственный интеллект как средство обмана. Можно ли побороть фейковые отзывы в Интернете?
29 Декабря, 2024
Инструменты ИИ позволяют поставить генерацию поддельных отзывов на поток, что создало новые проблемы для потребителей и продавцов. Фото: AP
Инструменты ИИ позволяют поставить генерацию поддельных отзывов на поток, что создало новые проблемы для потребителей и продавцов
Появление инструментов генеративного искусственного интеллекта, таких как ChatGPT от компании OpenAI, позволило быстро создавать подробные и оригинальные отзывы для публикации в Интернете. Однако эти инструменты также открыли новые возможности для мошенников и поставили продавцов, поставщиков услуг и потребителей в новую ситуацию.
Фейковые отзывы уже давно являются проблемой для популярных платформ, таких как Amazon и Yelp. Раньше их писали вручную и продавали в закрытых группах, но теперь, благодаря генераторам текста с использованием ИИ, процесс стал гораздо быстрее и масштабнее. Эксперты отмечают, что мошенники активно используют такие инструменты для создания поддельных отзывов, особенно в сезон предпраздничных покупок, когда потребители чаще полагаются на рекомендации в Интернете.
Где появляются фейковые отзывы?
Компания Transparency Company, занимающаяся обнаружением поддельных отзывов, сообщила, что массовое появление обзоров, сгенерированных ИИ, началось в 2023 году. В недавнем исследовании компании говорится, что из 73 миллионов проанализированных отзывов почти 14% с высокой долей вероятности являются фальшивыми. В дополнение к этому, «с высокой долей уверенности» можно утверждать, что 2,3 миллиона отзывов были частично или полностью сгенерированы с помощью ИИ.
В сентябре Федеральная торговая комиссия подала в суд на компанию, стоящую за генератором контента Rytr, работающего с использованием технологий ИИ, обвинив ее в предложении услуг, которые могут наводнить торговые площадки поддельными отзывами.
Комиссия, которая ранее в этом году запретила продажу фейковых отзывов, заявила, что некоторые подписчики Rytr’s использовали инструмент для генерации сотен, возможно даже тысяч отзывов для компаний по ремонту гаражных ворот, продавцов копий дизайнерских сумок и других торговцев.
Кто под ударом?
Фальшивые отзывы можно встретить в самых разных отраслях — от электронной коммерции и ресторанов до медицинских услуг и бытового ремонта. На сайте Yelp, например, некоторые пользователи создают поддельные отзывы, чтобы заработать значок «элитного» автора, который повышает доверие к профилю и открывает доступ к мероприятиям с владельцами бизнеса.
Ситуация усугубляется тем, что не каждый отзыв, сгенерированный с помощью ИИ, является фейковым. Иногда пользователи используют такие инструменты для выражения искренних эмоций или проверки орфографии и грамматики. Однако мошенники значительно увеличивают объем поддельного контента, мешая потребителям делать осознанный выбор.
Как реагируют компании?
Крупные платформы вводят правила, регулирующие использование контента, созданного ИИ. Так, Amazon разрешает публиковать такие отзывы, если они отражают реальный опыт пользователей. Yelp занимает более строгую позицию, требуя, чтобы пользователи писали отзывы самостоятельно.
Запретившая фейковые отзывы Федеральная торговая комиссия может штрафовать компании и частных лиц, уличенных в такой практике, но технологические платформы не несут юридической ответственности за контент, размещенный пользователями.
Как выявить подделку?
Распознать фейковые отзывы может быть непросто, но есть некоторые признаки, на которые стоит обратить внимание. По мнению исследователей, чрезмерно восторженный или резко негативный тон может стать первым сигналом. Кроме того, подозрительным выглядит частое повторение полного названия товара или модели. Тексты, переполненные общими фразами и клише вроде «первое, что поразило меня» или «это изменило мою жизнь», также могут быть результатом генеративного ИИ.
По мнению профессора Йельского университета Балаша Ковача, люди часто не могут отличить тексты, созданные искусственным интеллектом, от написанных людьми. Детекторы ИИ также могут не среагировать на короткие тексты, какими часто бывают отзывы, отмечается в исследовании.
В компании Panagram Labs, которая специализируется на выявлении контента, созданного с помощью ИИ, отметили, что написанные ИИ тексты обычно длиннее, более структурированные и содержат «пустые дескрипторы» – общие фразы и атрибуты, не передающие реального опыта.
Источник: VOA
Власти арестовали 37-летнего криптовалютного инвестора Джона Волца и предъявили ему обвинения в похищении человека, нападении на него, незаконном лишении свободы жертвы и незаконном хранении огнестрельного оружия...
.jpg)
Новый 'Final Destination' с подзаголовком 'Bloodlines' не хочется называть шестым. По сути это перезапуск успешной хоррор-франшизы, использующий схожую формулу, но будто бы избавленный от нагрузки предыдущих серий...
Винодельни США начали использовать нестандартные форматы, чтобы привлечь внимание миллениалов и зумеров. Среди популярных уловок — живые ослы, фото с овцами, музыка, фуд-траки, а также йога с животными...
В аэропорту Джона Кеннеди в Нью-Йорке был арестован 28-летний гражданин США и Германии Джозеф Ноймайер, который подозревается в попытке поджога американского посольства в Тель-Авиве. Суд отказал ему в освобождении под залог...
'Thunderbolts*' Джейка Шрейера — заключительный фильм пятой фазы Киновселенной Marvel. В нем команда случайно собравшихся «недогероев» противостоит очередному суперзлодею...
Добавить комментарий
0 комментариев