Суббота, 20 Апреля 2024
Оценить материал
Скопируйте код для вставки в свой блог:
<div>
<a href="http://www.runyweb.com">Русский Нью-Йорк</a> онлайн - <a href="http://runyweb.com/" target="_blank">новости</a> <a href="http://runyweb.com/" target="_blank">США</a> по-русски<br />
<pre><a href="http://www.runyweb.com"><img alt="" height="64" src="http://www.runyweb.com/img/blogLogo.gif" style="border: medium none ;" width="90" /></a>
</pre></div>
<h3 style="margin: 15px 0pt; font-family: Arial,Helvetica,sans-serif; font-style: normal; font-variant: normal; font-weight: normal; font-size: 1em; line-height: normal; font-size-adjust: none; font-stretch: normal; color: rgb(0, 0, 0);">
<a href="http://www.runyweb.com/articles/35/facebook-ai-equated-black-men-with-primates-prompting-another-toothless-apology.html/facebook-ai-equated-black-men-with-primates-prompting-another-toothless-apology.html">Он ненавидит всех, кроме белых мужчин. Искусственный интеллект в Facebook посчитал афроамериканцев приматами</a></h3>
<div>
<a href="http://www.runyweb.com/articles/35/facebook-ai-equated-black-men-with-primates-prompting-another-toothless-apology.html/facebook-ai-equated-black-men-with-primates-prompting-another-toothless-apology.html"><img alt="" height="292" src="http://www.runyweb.com/image/articles/29394/454-292-Artificial_Intellegence454.jpg" style="border: 1px solid rgb(209, 210, 212); padding: 2px;" width="454" /></a></div>
<p>
<a href="http://www.runyweb.com/articles/35/facebook-ai-equated-black-men-with-primates-prompting-another-toothless-apology.html/facebook-ai-equated-black-men-with-primates-prompting-another-toothless-apology.html" style="margin: 10px 0pt; font-family: Arial,Helvetica,sans-serif; font-style: normal; font-variant: normal; font-weight: normal; font-size: 0.9em; line-height: normal; font-size-adjust: none; font-stretch: normal; color: rgb(0, 0, 0); text-decoration: none;">Пользователи Facebook обвинили алгоритмы ИИ платформы в расизме за то, что нейросеть приняла афроамериканцев на фото за обезьян. Это не единственный случай предвзятого отношения искусственного интеллекта к людям... <br />
<strong>Читать полностью > > ></strong></a></p>
Он ненавидит всех, кроме белых мужчин. Искусственный интеллект в Facebook посчитал афроамериканцев приматами
7 Сентября, 2021
Искусственный интеллект в Facebook посчитал афроамериканцев приматами. Фото: Depositphotos
Пользователи Facebook обвинили алгоритмы ИИ платформы в расизме за то, что нейросеть приняла афроамериканцев на фото за обезьян. Это не единственный случай предвзятого отношения искусственного интеллекта к людям. В чем ранее обвиняли алгоритмы ИИ и в чем причины этого явления
Искусственный интеллект Facebook пометил темнокожих мужчин как «приматов», сообщил Mashable.
Об этом сообщили некоторые пользователи социальной сети, просматривающие видеозаписи с афроамериканцами. По их словам, алгоритмы Facebook, которые должны предоставлять пользователям релевантный контент, предложили им продолжить просмотр роликов с «приматами».
Сама компания принесла извинения пользователям и назвала ошибку, совершенную ИИ, недопустимой. Причем это не единственный случай, когда нейросети уличали в предвзятости.
В 2020 году ученые университета Нью-Йорка установили, что искусственный интеллект от Google, Microsoft и Amazon анализирует фотографии женщин и мужчин по-разному.
В ходе тестирования ИИ должен был составить аннотации к 20 официальным фотографиям политических деятелей, размещенным в Twitter. На снимках были десять женщин и десять мужчин.
Все мужчины были помечены алгоритмом Google ярлыками «бизнесмен» и «чиновник», а женщин отметили понятиями, связанными с внешностью, например, «волосы», «улыбка» и «шея».
Сервисы Amazon и Microsoft продемонстрировали менее очевидную предвзятость, хотя программа Amazon сообщила, что более чем на 99% уверена, что две из десяти женщин-сенаторов были либо «девушками», либо «детьми». У службы Microsoft возникли проблемы с определением пола по фотографиям женщин. Программа назвала женщинами только восемь из десяти участниц исследования, а двух других она пометила как мужчину и «человека другого пола».
Таким образом, ученые пришли к выводу, что ИИ необъективен и имеет гендерные предрассудки. Это связано в первую очередь с тем, что на фотографиях, используемых для тренировки алгоритмов зрения ИИ, часто изображены стереотипные ситуации, например, когда женщина стоит у плиты, а мужчина стреляет из оружия.
Исследователи AI Multiple утверждают, что такое поведение алгоритмов ИИ — следствие действий его создателей. Дело в том, что при обучении нейросетей специалисты используют неполный или содержащий предубеждения контент.
В 2014 году компания Amazon запустила кампанию по подбору персонала с помощью ИИ. Нейросеть должна была рассматривать резюме кандидатов и выносить решение о принятии на работу. Через год специалисты Amazon обнаружили, что новая система рекрутинга ИИ несправедливо оценивает кандидатов и проявляет предвзятость в отношении женщин.
Дело в том, что Amazon использовала для обучения нейросети данные, содержащие предрассудки в отношении женщин. Более того, 60% сотрудников компании были мужчинами, поэтому ИИ решил, что кандидаты мужского пола более предпочтительны.
В системе здравоохранения также нашлось место для предвзятого ИИ. Алгоритм прогнозирования рисков в области здравоохранения США был разработан для предсказания того, какие пациенты будут нуждаться в дополнительной медицинской помощи. Во время его работы выяснилось, что ИИ давал неправильные результаты — нейросети отдавали предпочтение белым пациентам перед афроамериканцами.
Разработчики использовали в качестве обучающего материала расходы предыдущих пациентов на здравоохранение как косвенный показатель медицинских потребностей. Это заставило ИИ думать, что у афроамериканцев нет нужды в дополнительной помощи.
Искусственный интеллект действительно способен сделать ошибки, которые для кого-то могут показаться забавными, а для кого-то оскорбительными, считают эксперты
По их мрению, это связано с тем, что нейронные сети, определяющие пол, возраст, настроение, расу человека, тренируются на больших данных и, возможно, эти большие данные могли привести к путанице. К таким ситуациям нужно относиться с понимаем и не принимать близко к сердцу.
Источник: Газета.ru
Просмотров: 2441
Скопируйте код для вставки в свой блог:
<div>
<a href="http://www.runyweb.com">Русский Нью-Йорк</a> онлайн - <a href="http://runyweb.com/" target="_blank">новости</a> <a href="http://runyweb.com/" target="_blank">США</a> по-русски<br />
<pre><a href="http://www.runyweb.com"><img alt="" height="64" src="http://www.runyweb.com/img/blogLogo.gif" style="border: medium none ;" width="90" /></a>
</pre></div>
<h3 style="margin: 15px 0pt; font-family: Arial,Helvetica,sans-serif; font-style: normal; font-variant: normal; font-weight: normal; font-size: 1em; line-height: normal; font-size-adjust: none; font-stretch: normal; color: rgb(0, 0, 0);">
<a href="http://www.runyweb.com/articles/35/facebook-ai-equated-black-men-with-primates-prompting-another-toothless-apology.html/facebook-ai-equated-black-men-with-primates-prompting-another-toothless-apology.html">Он ненавидит всех, кроме белых мужчин. Искусственный интеллект в Facebook посчитал афроамериканцев приматами</a></h3>
<div>
<a href="http://www.runyweb.com/articles/35/facebook-ai-equated-black-men-with-primates-prompting-another-toothless-apology.html/facebook-ai-equated-black-men-with-primates-prompting-another-toothless-apology.html"><img alt="" height="292" src="http://www.runyweb.com/image/articles/29394/454-292-Artificial_Intellegence454.jpg" style="border: 1px solid rgb(209, 210, 212); padding: 2px;" width="454" /></a></div>
<p>
<a href="http://www.runyweb.com/articles/35/facebook-ai-equated-black-men-with-primates-prompting-another-toothless-apology.html/facebook-ai-equated-black-men-with-primates-prompting-another-toothless-apology.html" style="margin: 10px 0pt; font-family: Arial,Helvetica,sans-serif; font-style: normal; font-variant: normal; font-weight: normal; font-size: 0.9em; line-height: normal; font-size-adjust: none; font-stretch: normal; color: rgb(0, 0, 0); text-decoration: none;">Пользователи Facebook обвинили алгоритмы ИИ платформы в расизме за то, что нейросеть приняла афроамериканцев на фото за обезьян. Это не единственный случай предвзятого отношения искусственного интеллекта к людям... <br />
<strong>Читать полностью > > ></strong></a></p>
Оценить материал
Добавить комментарий
0 комментариев