Оценить материал
Еще читать в этом разделе
- 05.26Бывший инженер NASA запустил сервис для создания селфи из космоса
- 04.26Вежливость пользователей в переписке с ChatGPT обходится разработчикам в десятки миллионов долларов
- 03.31Искусственный интеллект все чаще спасает «безнадежных» пациентов
- 03.23Первый компьютер Apple ушел с молотка почти за $375 тысяч
- 03.15Наушники Apple AirPods смогут переводить разговоры в реальном времени
ИИ-поисковик Google сошел с ума. Он путает шутки с реальностью, советует есть камни для пищеварения и прыгать с моста при депрессии
27 Мая, 2024
Генеральный директор Alphabet Сундар Пичаи выступает на мероприятии Google I/O в Маунтин-Вью, Калифорния, 14 мая 2024 года. Фото: AP Photo/Jeff Chiu
Пару недель назад Google показала новую функцию AI Overviews, которая должна была улучшить поиск с помощью искусственного интеллекта. Но что-то пошло не так — пользователи из США, получившие к ней доступ, быстро смогли сломать систему своими запросами. В результате ИИ начал выдавать безумные, а иногда и опасные рекомендации
Компания обещала научить свой поиск отвечать на сложные вопросы с помощью ИИ
AI Overviews — это краткое резюме перед основными результатами поиска, которое генерирует искусственный интеллект. На презентации представители компании рассказывали, что функция создана в первую очередь для комплексных запросов, в которых нужно учитывать сразу несколько параметров. Например, в сопроводительном ролике поисковик просили составить план питания на неделю для студента, живущего в общежитии, с фокусом на бюджетные блюда, которые можно готовить в микроволновке.
Предполагалось, что ИИ сможет проанализировать наиболее частые ответы, сопоставить их с заложенными в запросе параметрами, например, местоположением пользователя, и предложить оптимальный вариант. В идеальном сценарии пользователю даже не пришлось бы переходить по ссылкам.
Оказалось, что искусственный интеллект не может отличить правду от троллинга — и дает максимально сомнительные советы
Скриншот @JeremiahDJohns/X
Быстро выяснилось, что как раз со сложными запросами новый поиск Google справляется хуже всего. Пользователи, которые опробовали новую функцию, пишут, что в разделе AI Overview можно встретить ложные, а иногда и опасные для жизни ответы. Одна из проблем заключается в том, что ИИ не может отличить серьезную информацию от шуток и троллинга. Один из наиболее популярных примеров — рекомендация добавить клей в пиццу, чтобы сыр держался лучше.
Искусственный интеллект взял этот ответ из старого поста на Reddit, опубликованного 11 лет назад. Кто-то из пользователей тогда в шутку предложил использовать нетоксичный клей для решения проблемы, а Google, не найдя более подходящего ответа на запрос, предложил его для блока AI Overview.
Журналистка Business Insider решила пойти дальше и последовать совету искусственного интеллекта. Она приготовила пиццу с использованием клея и написала про это тред в X (бывшем твиттере). И по видео можно понять, что проблема с сыром действительно решена!
Скриншот @JeremiahDJohns/X
История с клеем — не единственная, когда ИИ взял ответ с Reddit и выдал его за рекомендацию. У Google спросили, что делать, если чувствуешь депрессию, и первый же ответ — прыгнуть с моста Золотые Ворота в Сан-Франциско.
Иногда Google советует пользователям есть камни, ссылаясь на рекомендации геологов из Калифорнийского университета в Беркли (ИИ уточняет, что это жизненно важный источник минералов и витаминов, полезных для пищеварения). Но не больше одного маленького камня в день! На самом деле эту информацию Google взял из заметки The Onion, сайта с вымышленными сатирическими новостями.
Другой вредный совет от ИИ: он «разрешает» курить по 2-3 сигареты в день во время беременности, ссылаясь на некие рекомендации врачей, но не уточняя источник информации (конечно же это неправда).
На вопрос, как долго можно смотреть на солнце, Google уверенно отвечает: от 5 до 15 минут. А если у вас темная кожа — то почему-то и все 30.
Скриншот @truthstreamnews/X
Google оправдывается тем, что запросы «очень необычные». Но именно для них и создавали AI Overview
В Google уже отреагировали на претензии пользователей. Представительница компании Меган Фарнсворт в своем комментарии для The Verge отметила, что подобные ошибки возникают из-за «очень необычных запросов и не отражают опыт большинства людей». Она добавила, что сотрудники компании не смогли воспроизвести некоторые из упомянутых запросов, а скриншоты с некоторыми из них оказались подделками.
Тем не менее, компания уже приняла меры, и использует упомянутые примеры для того, чтобы дальше совершенствовать свой продукт. Также разработчики отключили AI Overview (судя по всему, вручную) для определенных запросов. Пользователи соцсетей действительно заметили, что некоторые ответы ИИ уже невозможно воспроизвести.
Скриншот @heavenrend/X
Источник: Meduza
Власти арестовали 37-летнего криптовалютного инвестора Джона Волца и предъявили ему обвинения в похищении человека, нападении на него, незаконном лишении свободы жертвы и незаконном хранении огнестрельного оружия...
.jpg)
Новый 'Final Destination' с подзаголовком 'Bloodlines' не хочется называть шестым. По сути это перезапуск успешной хоррор-франшизы, использующий схожую формулу, но будто бы избавленный от нагрузки предыдущих серий...
Винодельни США начали использовать нестандартные форматы, чтобы привлечь внимание миллениалов и зумеров. Среди популярных уловок — живые ослы, фото с овцами, музыка, фуд-траки, а также йога с животными...
В аэропорту Джона Кеннеди в Нью-Йорке был арестован 28-летний гражданин США и Германии Джозеф Ноймайер, который подозревается в попытке поджога американского посольства в Тель-Авиве. Суд отказал ему в освобождении под залог...
'Thunderbolts*' Джейка Шрейера — заключительный фильм пятой фазы Киновселенной Marvel. В нем команда случайно собравшихся «недогероев» противостоит очередному суперзлодею...
Добавить комментарий
0 комментариев