-->
Пятница, 29 Марта 2024

Оценить материал


Вставить в блог

Bookmark and Share

Он ненавидит всех, кроме белых мужчин. Искусственный интеллект в Facebook посчитал афроамериканцев приматами

7 Сентября, 2021

Искусственный интеллект в Facebook посчитал афроамериканцев приматами. Фото: Depositphotos

Искусственный интеллект в Facebook посчитал афроамериканцев приматами. Фото: Depositphotos

Пользователи Facebook обвинили алгоритмы ИИ платформы в расизме за то, что нейросеть приняла афроамериканцев на фото за обезьян. Это не единственный случай предвзятого отношения искусственного интеллекта к людям. В чем ранее обвиняли алгоритмы ИИ и в чем причины этого явления

Искусственный интеллект Facebook пометил темнокожих мужчин как «приматов», сообщил Mashable.

Об этом сообщили некоторые пользователи социальной сети, просматривающие видеозаписи с афроамериканцами. По их словам, алгоритмы Facebook, которые должны предоставлять пользователям релевантный контент, предложили им продолжить просмотр роликов с «приматами».

Сама компания принесла извинения пользователям и назвала ошибку, совершенную ИИ, недопустимой. Причем это не единственный случай, когда нейросети уличали в предвзятости.

В 2020 году ученые университета Нью-Йорка установили, что искусственный интеллект от Google, Microsoft и Amazon анализирует фотографии женщин и мужчин по-разному.

В ходе тестирования ИИ должен был составить аннотации к 20 официальным фотографиям политических деятелей, размещенным в Twitter. На снимках были десять женщин и десять мужчин.

Все мужчины были помечены алгоритмом Google ярлыками «бизнесмен» и «чиновник», а женщин отметили понятиями, связанными с внешностью, например, «волосы», «улыбка» и «шея».

Сервисы Amazon и Microsoft продемонстрировали менее очевидную предвзятость, хотя программа Amazon сообщила, что более чем на 99% уверена, что две из десяти женщин-сенаторов были либо «девушками», либо «детьми». У службы Microsoft возникли проблемы с определением пола по фотографиям женщин. Программа назвала женщинами только восемь из десяти участниц исследования, а двух других она пометила как мужчину и «человека другого пола».

Искусственный интеллект в Facebook посчитал афроамериканцев приматами.

Таким образом, ученые пришли к выводу, что ИИ необъективен и имеет гендерные предрассудки. Это связано в первую очередь с тем, что на фотографиях, используемых для тренировки алгоритмов зрения ИИ, часто изображены стереотипные ситуации, например, когда женщина стоит у плиты, а мужчина стреляет из оружия.

Исследователи AI Multiple утверждают, что такое поведение алгоритмов ИИ — следствие действий его создателей. Дело в том, что при обучении нейросетей специалисты используют неполный или содержащий предубеждения контент.

В 2014 году компания Amazon запустила кампанию по подбору персонала с помощью ИИ. Нейросеть должна была рассматривать резюме кандидатов и выносить решение о принятии на работу. Через год специалисты Amazon обнаружили, что новая система рекрутинга ИИ несправедливо оценивает кандидатов и проявляет предвзятость в отношении женщин.

Дело в том, что Amazon использовала для обучения нейросети данные, содержащие предрассудки в отношении женщин. Более того, 60% сотрудников компании были мужчинами, поэтому ИИ решил, что кандидаты мужского пола более предпочтительны.

В системе здравоохранения также нашлось место для предвзятого ИИ. Алгоритм прогнозирования рисков в области здравоохранения США был разработан для предсказания того, какие пациенты будут нуждаться в дополнительной медицинской помощи. Во время его работы выяснилось, что ИИ давал неправильные результаты — нейросети отдавали предпочтение белым пациентам перед афроамериканцами.

Разработчики использовали в качестве обучающего материала расходы предыдущих пациентов на здравоохранение как косвенный показатель медицинских потребностей. Это заставило ИИ думать, что у афроамериканцев нет нужды в дополнительной помощи.

Искусственный интеллект действительно способен сделать ошибки, которые для кого-то могут показаться забавными, а для кого-то оскорбительными, считают эксперты

По их мрению, это связано с тем, что нейронные сети, определяющие пол, возраст, настроение, расу человека, тренируются на больших данных и, возможно, эти большие данные могли привести к путанице. К таким ситуациям нужно относиться с понимаем и не принимать близко к сердцу.

Источник: Газета.ru

Просмотров: 2399

Вставить в блог

Оценить материал

Отправить другу



Добавить комментарий

Введите символы, изображенные на картинке в поле слева.
 

0 комментариев

И Н Т Е Р В Ь Ю

НАЙТИ ДОКТОРА

Новостная лента

Все новости