Перейти к основному контенту

Внешнеторговый форум РБК,
29 апреля, Центр событий РБК

Новая логистика

Валюты расчетов

Безопасность поставок

IT решения для ВЭД

Выход на новые рынки

18+

Общество ,  
0 

Юваль Харари предупредил о появлении алгоритмов-расистов

Известный историк считает, что программы, которые используются для аналитики поведения потребителей, превращаются в новый источник дискриминации
Юваль Харари
Юваль Харари (Фото: Claudio Lavenia / Fast Company / Getty Images)

В интервью РБК израильский историк Юваль Харари отметил, что алгоритмы, которые программисты создают для анализа поведения людей, часто являются предвзятыми.

Юваль Харари — РБК: «У политиков должен быть барьер между умом и ртом»
Общество
Юваль Харари

«Они отражают предубеждения своих разработчиков. Это ведь выдумка, что алгоритмы действуют на основе чистой математики. Разработчик сообщает программе, на какую информацию она должна обращать внимание, а какую — пропускать. Например, вы пишете алгоритм, который решает, давать людям заем или нет, изучая разнообразную информацию о заемщике. Должен ли этот алгоритм принимать во внимание расу заемщика? Должен ли он отказывать человеку на том основании, что он черный, еврей, гей или женщина? Дизайнер алгоритма вполне может вложить свои предубеждения в программу», — утверждает Харари.

Семь смертных грехов искусственного интеллекта
Социальная экономика
Фото:Фото: Chris McGrath / Getty Images

Историк считает, что в ближайшем будущем подобные предубеждения, которые разработчик намеренно или бессознательно вкладывает в алгоритм, могут превратиться в новый источник дискриминации людей по их расе, полу и сексуальной ориентации.

Google разработал алгоритм для прогноза смерти госпитализированных
Технологии и медиа
Фото:Charles Platiau / Reuters

К дискриминации могут приводить и полностью объективные алгоритмы: например, искусственный интеллект, который помогает банкам снизить число неплатежей по кредитам. Но моральная ответственность все равно лежит на служащих, принимающих решения по каждому заемщику: «Даже если программа подсчитает, что представители какой-то конкретной этнической группы с меньшей вероятностью возвращают займы, вам все равно надо спросить себя: а почему это происходит? Может быть, они на протяжении десятилетий страдают от дискриминации, из-за которой бедны, плохо образованы и враждебны по отношению к любым социальным институтам? И именно поэтому с меньшей вероятностью гасят кредиты? Тогда к несправедливостям, которые им причиняли, вы добавите собственную несправедливость, сославшись на беспристрастное решение алгоритма», — отмечает ученый.

Авторы
Теги

Внешнеторговый форум РБК,
29 апреля, Центр событий РБК

Новая логистика

Валюты расчетов

Безопасность поставок

IT решения для ВЭД

Выход на новые рынки

18+

Прямой эфир
Ошибка воспроизведения видео. Пожалуйста, обновите ваш браузер.
Лента новостей
Курс евро на 26 апреля
EUR ЦБ: 94,36 (-0,35)
Инвестиции, 25 апр, 17:29
Курс доллара на 26 апреля
USD ЦБ: 82,65 (-0,2)
Инвестиции, 25 апр, 17:29
Военная операция на Украине. ОнлайнПолитика, 09:02
11 отраслей, где применяются большие языковые моделиРБК и GigaChat, 09:00
«Кинематографичный папа»: как зарабатывают на кино и книгах о ВатиканеТехнологии и медиа, 09:00
Власти Ирана объявили трехдневный траур в регионе, где произошел взрывОбщество, 08:59
WSJ узнала, что чиновников в США будут нанимать по лояльности к ТрампуПолитика, 08:54
Число погибших при взрыве в иранском порту выросло до 18Общество, 08:39
21 российская компания объявила дивиденды в 2025 году: кто и сколькоИнвестиции, 08:25
Онлайн-курс Digital MBA от РБК Pro
Объединили экспертизу профессоров MBA из Гарварда, MIT, INSEAD и опыт передовых ИТ-компаний
Оставить заявку
Автомобиль въехал в толпу на уличном фестивале в ВанкувереОбщество, 08:16
Укравшего сумку Gucci у министра внутренней безопасности США арестовалиОбщество, 08:07
Большой гид по «Серии плюс»: чем интересны кварталы ПИК нового поколенияРБК и ПИК, 08:03
WSJ раскрыла разногласия после третьего раунда переговоров США и ИранаПолитика, 07:59
Минобороны сообщило о перехвате пяти дронов над Брянской областью на ночьПолитика, 07:48
В Приморском крае начали поиски сбежавшего из колонии гражданина КитаяОбщество, 07:30
В Минобороны Пакистана оценили возможность начала войны с ИндиейПолитика, 07:17