-->
Четверг, 13 Июня 2024

Оценить материал


Вставить в блог

Bookmark and Share

ИИ-поисковик Google сошел с ума. Он путает шутки с реальностью, советует есть камни для пищеварения и прыгать с моста при депрессии

27 Мая, 2024

Генеральный директор Alphabet Сундар Пичаи выступает на мероприятии Google I/O в Маунтин-Вью, Калифорния, 14 мая 2024 года. Фото: AP Photo/Jeff Chiu

Генеральный директор Alphabet Сундар Пичаи выступает на мероприятии Google I/O в Маунтин-Вью, Калифорния, 14 мая 2024 года. Фото: AP Photo/Jeff Chiu

Пару недель назад Google показала новую функцию AI Overviews, которая должна была улучшить поиск с помощью искусственного интеллекта. Но что-то пошло не так — пользователи из США, получившие к ней доступ, быстро смогли сломать систему своими запросами. В результате ИИ начал выдавать безумные, а иногда и опасные рекомендации

Компания обещала научить свой поиск отвечать на сложные вопросы с помощью ИИ

AI Overviews — это краткое резюме перед основными результатами поиска, которое генерирует искусственный интеллект. На презентации представители компании рассказывали, что функция создана в первую очередь для комплексных запросов, в которых нужно учитывать сразу несколько параметров. Например, в сопроводительном ролике поисковик просили составить план питания на неделю для студента, живущего в общежитии, с фокусом на бюджетные блюда, которые можно готовить в микроволновке.

Предполагалось, что ИИ сможет проанализировать наиболее частые ответы, сопоставить их с заложенными в запросе параметрами, например, местоположением пользователя, и предложить оптимальный вариант. В идеальном сценарии пользователю даже не пришлось бы переходить по ссылкам.

Оказалось, что искусственный интеллект не может отличить правду от троллинга — и дает максимально сомнительные советы

После подключения к поисковику Google функции AI Overviews ИИ начал выдавать безумные, а иногда и опасные рекомендации. Скриншот X@JeremiahDJohns
Скриншот @JeremiahDJohns/X

Быстро выяснилось, что как раз со сложными запросами новый поиск Google справляется хуже всего. Пользователи, которые опробовали новую функцию, пишут, что в разделе AI Overview можно встретить ложные, а иногда и опасные для жизни ответы. Одна из проблем заключается в том, что ИИ не может отличить серьезную информацию от шуток и троллинга. Один из наиболее популярных примеров — рекомендация добавить клей в пиццу, чтобы сыр держался лучше.

Искусственный интеллект взял этот ответ из старого поста на Reddit, опубликованного 11 лет назад. Кто-то из пользователей тогда в шутку предложил использовать нетоксичный клей для решения проблемы, а Google, не найдя более подходящего ответа на запрос, предложил его для блока AI Overview.

Журналистка Business Insider решила пойти дальше и последовать совету искусственного интеллекта. Она приготовила пиццу с использованием клея и написала про это тред в X (бывшем твиттере). И по видео можно понять, что проблема с сыром действительно решена!

После подключения к поисковику Google функции AI Overviews ИИ начал выдавать безумные, а иногда и опасные рекомендации. Скриншот X@JeremiahDJohns
Скриншот @JeremiahDJohns/X

История с клеем — не единственная, когда ИИ взял ответ с Reddit и выдал его за рекомендацию. У Google спросили, что делать, если чувствуешь депрессию, и первый же ответ — прыгнуть с моста Золотые Ворота в Сан-Франциско.

Иногда Google советует пользователям есть камни, ссылаясь на рекомендации геологов из Калифорнийского университета в Беркли (ИИ уточняет, что это жизненно важный источник минералов и витаминов, полезных для пищеварения). Но не больше одного маленького камня в день! На самом деле эту информацию Google взял из заметки The Onion, сайта с вымышленными сатирическими новостями.

Другой вредный совет от ИИ: он «разрешает» курить по 2-3 сигареты в день во время беременности, ссылаясь на некие рекомендации врачей, но не уточняя источник информации (конечно же это неправда).

На вопрос, как долго можно смотреть на солнце, Google уверенно отвечает: от 5 до 15 минут. А если у вас темная кожа — то почему-то и все 30.

После подключения к поисковику Google функции AI Overviews ИИ начал выдавать безумные, а иногда и опасные рекомендации. Скриншот X@truthstreamnews
Скриншот @truthstreamnews/X

Google оправдывается тем, что запросы «очень необычные». Но именно для них и создавали AI Overview

В Google уже отреагировали на претензии пользователей. Представительница компании Меган Фарнсворт в своем комментарии для The Verge отметила, что подобные ошибки возникают из-за «очень необычных запросов и не отражают опыт большинства людей». Она добавила, что сотрудники компании не смогли воспроизвести некоторые из упомянутых запросов, а скриншоты с некоторыми из них оказались подделками.

Тем не менее, компания уже приняла меры, и использует упомянутые примеры для того, чтобы дальше совершенствовать свой продукт. Также разработчики отключили AI Overview (судя по всему, вручную) для определенных запросов. Пользователи соцсетей действительно заметили, что некоторые ответы ИИ уже невозможно воспроизвести.

После подключения к поисковику Google функции AI Overviews ИИ начал выдавать безумные, а иногда и опасные рекомендации. Скриншот X@heavenrend
Скриншот @heavenrend/X

Источник: Meduza

Теги: AI Overviews

Просмотров: 801

Вставить в блог

Оценить материал

Отправить другу



Добавить комментарий

Введите символы, изображенные на картинке в поле слева.
 

0 комментариев

И Н Т Е Р В Ь Ю

НАЙТИ ДОКТОРА

Новостная лента

Все новости