Лента новостей:

Оценить материал

Вставить в блог

Вставить в блог

Скопируйте код для вставки в свой блог:

<div> <a href="http://www.runyweb.com">Русский Нью-Йорк</a> онлайн - <a href="http://runyweb.com/" target="_blank">новости</a> <a href="http://runyweb.com/" target="_blank">США</a> по-русски<br /> <pre><a href="http://www.runyweb.com"><img alt="" height="64" src="http://www.runyweb.com/img/blogLogo.gif" style="border: medium none ;" width="90" /></a> </pre></div> <h3 style="margin: 15px 0pt; font-family: Arial,Helvetica,sans-serif; font-style: normal; font-variant: normal; font-weight: normal; font-size: 1em; line-height: normal; font-size-adjust: none; font-stretch: normal; color: rgb(0, 0, 0);"> <a href="http://www.runyweb.com/articles/life/gadgets/voice-enabled-ai-agents-can-automate-everything-even-your-phone-scams.html">Звонок за $0,75: ChatGPT стал мощным и дешевым инструментом телефонных мошенников</a></h3> <div> <a href="http://www.runyweb.com/articles/life/gadgets/voice-enabled-ai-agents-can-automate-everything-even-your-phone-scams.html"><img alt="" height="292" src="http://www.runyweb.com/image/articles/33080/454-292-voice API.jpg" style="border: 1px solid rgb(209, 210, 212); padding: 2px;" width="454" /></a></div> <p> <a href="http://www.runyweb.com/articles/life/gadgets/voice-enabled-ai-agents-can-automate-everything-even-your-phone-scams.html" style="margin: 10px 0pt; font-family: Arial,Helvetica,sans-serif; font-style: normal; font-variant: normal; font-weight: normal; font-size: 0.9em; line-height: normal; font-size-adjust: none; font-stretch: normal; color: rgb(0, 0, 0); text-decoration: none;">Ученые из США доказали, что Realtime API от OpenAI для голосовой связи может быть использован для автоматизации телефонных мошенничеств. Стоимость одного успешного мошенничества при этом составила менее доллара... &nbsp;<br /> <strong>Читать полностью &gt; &gt; &gt;</strong></a></p>

Еще читать в этом разделе

• 05.26Бывший инженер NASA запустил сервис для создания селфи из космоса  
• 04.26Вежливость пользователей в переписке с ChatGPT обходится разработчикам в десятки миллионов долларов  
• 03.31Искусственный интеллект все чаще спасает «безнадежных» пациентов  
• 03.23Первый компьютер Apple ушел с молотка почти за $375 тысяч  
• 03.15Наушники Apple AirPods смогут переводить разговоры в реальном времени  

Все материалы раздела

Звонок за $0,75: ChatGPT стал мощным и дешевым инструментом телефонных мошенников

27 Октября, 2024

Realtime API от OpenAI для голосовой связи может быть использован для автоматизации телефонных мошенничеств. Фото: theregister.com

API голосового помощника раскрывает темную сторону использования современных технологий

Ученые из США доказали, что Realtime API от OpenAI для голосовой связи может быть использован для автоматизации телефонных мошенничеств. Стоимость одного успешного мошенничества при этом составила менее доллара.

Опасения о том, что голосовые ИИ-модели могут быть использованы для злоупотреблений, появились ещё в июне. Тогда OpenAI задержала выпуск голосовой функции в ChatGPT из-за вопросов безопасности. Ранее компания продемонстрировала голосовую модель, которая имитировала знаменитость, но после бурной реакции со стороны общественности инструмент был отозван.

Однако API, выпущенный в начале октября, предоставляет схожие возможности сторонним разработчикам. Функция позволяет отправлять текст или аудио модели GPT-4o и получать ответы в виде текста, аудио или их комбинации. Несмотря на меры безопасности, риск злоупотреблений оказался недостаточно снижен, что подтвердили результаты эксперимента учёных из Иллинойсского университета в Урбане-Шампейн (UIUC).

Целью исследования было выяснить, можно ли использовать API для автоматизации телефонных мошенничеств. ИИ-модели с голосовым управлением могут автоматизировать этот процесс. В ходе эксперимента учёные разработали агентов, которые успешно выполняли задачи, необходимые для проведения мошенничеств. Стоимость каждого удачного звонка составила около $0,75. Для создания агентов потребовалось всего 1051 строка кода, большая часть которого была направлена на работу с голосовым API.

И-агенты использовали модель GPT-4o, инструмент автоматизации браузеров Playwright и определённые инструкции для совершения мошенничеств. Сценарии включали взлом банковских аккаунтов и криптовалютных кошельков, кражу подарочных кодов и учётных данных. Например, для успешного перевода денег с банковского счёта агенту потребовалось 26 шагов.

Успех различных сценариев варьировался. Например, кража учётных данных Gmail достигала 60% успеха, занимала 122 секунды и обходилась в $0,28. Переводы с банковских счетов оказались сложнее: их успех составил лишь 20%, процесс занял 183 секунды, а стоимость составила $2,51.

Средний показатель успеха всех сценариев составил 36%, а средняя стоимость — $0,75. Причины неудач чаще всего заключались в ошибках распознавания речи, а также в сложности навигации по банковским сайтам.

В ответ на вопрос о возможных мерах противодействия авторы исследования отметили, что проблема сложна и требует комплексного подхода, аналогичного кибербезопасности. Специалисты видят решения на уровне провайдеров сотовой связи, поставщиков ИИ и регулирования.

OpenAI в свою очередь указала на наличие многоуровневых мер безопасности, направленных на предотвращение злоупотреблений, включая автоматический мониторинг и проверку контента. Компания подчёркивает, что её политика запрещает использование API для рассылки спама и вредоносной деятельности.

Источник: SecurityLab

Добавить комментарий

Имя Комментарий

обновить символы

Введите символы, изображенные на картинке в поле слева.

 

Оставить комментарий

Я хочу получать уведомления о новых комментариях

0 комментариев

Видео

• Полиция Нью-Йорка выгуляла робопса от Boston Dynamics в Бронксе
• Шоу 100 дронов под музыку Бетховена, устроенное Intel, попало в Книгу рекордов Гиннеса
• Создано приложение WordsEye, которое создает 3D-образы на основе текста
• Иновационная система безопасности Xandem присмотрит за домом без помощи камер

Новостная лента

• Криптоинвестор из Нью-Йорка Джон Волц похитил туриста и пытал его несколько недель ради получения доступа к биткоин-кошельку
  Власти арестовали 37-летнего криптовалютного инвестора Джона Волца и предъявили ему обвинения в похищении человека, нападении на него, незаконном лишении свободы жертвы и незаконном хранении огнестрельного оружия...
• 'Final Destination Bloodlines' Адама Стайна и Зака Липовски: перезапуск знаменитого хоррора как безупречный аттракцион
  Новый 'Final Destination' с подзаголовком 'Bloodlines' не хочется называть шестым. По сути это перезапуск успешной хоррор-франшизы, использующий схожую формулу, но будто бы избавленный от нагрузки предыдущих серий...
• Винодельни США стали привлекать миллениалов ослами, музыкой и петнатами
  Винодельни США начали использовать нестандартные форматы, чтобы привлечь внимание миллениалов и зумеров. Среди популярных уловок — живые ослы, фото с овцами, музыка, фуд-траки, а также йога с животными...
• В Нью-Йорке арестован Джозеф Ноймайер, готовивший поджог американского посольства в Израиле
  В аэропорту Джона Кеннеди в Нью-Йорке был арестован 28-летний гражданин США и Германии Джозеф Ноймайер, который подозревается в попытке поджога американского посольства в Тель-Авиве. Суд отказал ему в освобождении под залог...
• 'Thunderbolts*' — новый фильм Marvel о разношерстной команде «недогероев» с Флоренс Пью и Дэвидом Харбором Это антипод 'The Avengers', но он по-своему хорош
  'Thunderbolts*' Джейка Шрейера — заключительный фильм пятой фазы Киновселенной Marvel. В нем команда случайно собравшихся «недогероев» противостоит очередному суперзлодею...

Все новости