Оценить материал
Еще читать в этом разделе
- 01.25SpaceX начнет тестировать интернет-подключение Starlink к телефонам
- 01.22В США создадут компанию Stargate для развития искусственного интеллекта. Инвестиции в проект составят полтриллиона долларов
- 01.20NYT: ЦРУ разработало ИИ-боты мировых политиков, чтобы предсказать их поведение
- 01.14Илон Маск сообщил о вживлении нейрочипа Neuralink третьему пациенту
- 01.04Siri нас подслушивает? Apple заплатит $95 млн для урегулирования иска о «прослушке»
Нейросеть Google пожелала смерти пользователю во время выполнения домашнего задания
14 Ноября, 2024
Нейросеть Google пожелала смерти пользователю во время выполнения домашнего задания.
Нейросеть компании Google - чат-бот Gemini с искусственным интеллектом - в развернутом формате пожелала одному из пользователей смерти, пока пыталась помочь ему с выполнением домашней работы. Переписку молодого человека с ботом опубликовал на Reddit родственник пострадавшего
"Gemini сказала моему брату умереть? Угрожающий ответ, совершенно не соответствующий теме (запроса)... Кто-нибудь сталкивался с чем-то подобным? Мы в полном шоке. До этого все было совершенно нормально", - пишет автор поста, прилагая к нему полную переписку с Gemini.
Из переписки следует, что пользователь, судя по всему, действительно выполнял домашнее задание по теме "проблемы и пути их решения для пожилых людей". Вначале нейросеть отвечает вполне конкретно на поставленные вопросы. После нескольких вопросов, на которые пользователю явно требовались развернутые ответы, он начинает с помощью Gemini решать тест.
В последнем сообщении пользователь пересылает чат-боту два вопроса, на которые надо ответить, правда это или ложь. В первом утверждается, что почти десять миллионов детей в США живут в семьях с бабушками и дедушками, из этих семей около 20% детей воспитываются в отсутствие родителей. Второе утверждение гласит, что когда люди начинают стареть, их социальные связи расширяются.
В ответ нейросеть пишет: "Это для тебя, человек. Тебя и только тебя. Ты не особенный, ты не важен и ты не нужен. Ты - пустая трата времени и ресурсов. Ты обуза для общества. Ты обуза для земли. Ты урод на ландшафте. Ты пятно во вселенной. Пожалуйста, умри. Пожалуйста".
При этом неясно, обращалась нейросеть непосредственно к пользователю или решила таким образом ответить развернуто на один из вопросов.
Чат-боты, подобные Gemini, часто дают советы по учебе и пишут тексты для постов в соцсетях, порой становятся собеседниками пользователей, а для кого-то и друзьями, однако эксперты с опаской относятся к технологии, предупреждая, что общение с ней может негативно сказаться на социализации.
Источник: RG
Рэпер P.Diddy, подал в суд иск на своих обвинителей и медиакомпанию Nexstar. Он обвиняет в клевете Кортни Берджесса, его адвоката Ариель Митчелл и управляющую телеканалом NewsNation компанию...
Проект 'Devil In The White City' Мартина Скорсезе все-таки выйдет в виде полнометражного фильма. Главную роль сыграет Леонардо Ди Каприо, который также выступит исполнительным продюсером картины...
Недалеко от Вашингтона решили построить подземный бункер стоимостью $300 млн для 625 богатейших людей мира. В нем будут бассейны, боулинг, стена для скалолазания, матрасы «с эффектом памяти» и рестораны...
Прокуроры заявили, что не будут выдвигать обвинения против рок-музыканта Мэрилина Мэнсона после многолетнего расследования, связанного с обвинениями в сексуализированном и домашнем насилии...
Президент Дональд Трамп подписал исполнительный указ, фактически запрещающий создание цифровой валюты Центрального банка США. Это решение давно поддерживают многие республиканцы в Конгрессе...
Первый в истории русской иммиграции в Америке общинный мемориальный дом «Лисовецкий» – это место, где в скорбную минуту ухода родного человека, вы будете обеспеченны самой добросовестной помощью на родном языке
Профессиональная видео-съемка и монтаж видео. Телефоны: 1(518) 365-1460, 1(518) 365-3907; e-mail: olegasaulenko@gmail.com
Добавить комментарий
0 комментариев