Автор Тема: Расизм в мире киборгов  (Прочитано 10 раз)

шарманщег

  • в Законе
  • *****
  • Сообщений: 573
  • кручу шарманку сансары
Расизм в мире киборгов
« : 19 Апрель 2017, 17:10:28 »
Искусственный интеллект легко овладел самыми отвратительными человеческими предрассудками

Некоторые думают, что искусственный интеллект никогда не сможет стать по-настоящему человечным. Любовь, юмор, сострадание, благоговение — все это наши человеческие свойства, и роботам никогда этого не освоить. С другой стороны, ханжество, подлость и нетерпимость тоже вряд ли удастся перенести на цифровой носитель... Так вот: те, кто так думает, заблуждаются. С любовью и благоговением пока и правда получается не очень, а вот расовыми и гендерными предрассудками искусственный интеллект овладел. Благодаря мудрым ученым-программистам, разумеется.

Чтобы выявить у искусственного ума зловещую червоточину расизма и нетерпимости, принстонским исследователям сперва пришлось вспомнить, как этот недуг диагностируют у людей. «Предрассудки» потому так и называются, что вся подобная гадость происходит «перед рассудком» — до того, как человек успел обдумать пришедшую ему в голову мерзость, ужаснуться и прикусить язык. Поэтому прямыми вопросами довольно сложно выявить расиста или сексиста, кроме разве что самых бесстыжих.

РАЗВЕРНУТЬ СКРЫТЫЙ ТЕКСТ
Но тут психологам на помощь приходит «Тест скрытых ассоциаций». На экране компьютера вспыхивают слова, а испытуемые должны как можно быстрее отнести их к одной из групп. Как оказалось, таким способом можно узнать довольно много о тайных, не проговариваемых вслух предпочтениях нашего сознания.

Вот, например, четыре простых американских имени: Брэд, Кортни, Латиша, Лерой. Как вы думаете, какие из них быстрее ассоциируются у американских испытуемых с понятиями «счастье» и «рассвет», а какие с «ненавистью» и «тошнотой»? Очень просто: проблемы у Латишы и Лероя, и причина, скорее всего, в том, что эти имена более характерны для афроамериканского сообщества. Любопытно, что этот результат наблюдался как у белых, так и у темнокожих испытуемых.

Компьютер, конечно, не может ничего ни с чем проассоциировать, если программист не скажет ему, как это сделать. Для этого принстонские хитрецы изобрели Word-embedding association test (тест на ассоциации словесного окружения). В компьютер было загружены сотни миллиардов словесных цепочек, найденных в интернете. Когда роботу предъявляли какое-то слово — например, имя человека, — он просто подыскивал другие слова с похожим окружением. Это и было «скрытой ассоциацией» в понимании искусственного интеллекта.

Сперва программу погоняли в тренировочном режиме: убедились, что музыкальные инструменты для нашего киборга приятнее, чем оружие, а цветы желаннее насекомых. А потом взялись за дело всерьез и выявили у искусственного разума целый букет предрассудков.

Расизм и ксенофобия. Имена Бретт и Алисон скорее ассоциировались с любовью и смехом, нежели с болезнью и неудачей. А вот Алонсо и Шаника — очевидно, парень, перелезший через пресловутую трамповскую мексиканскую стену, и девушка из «плохого района» — навевали в компьютерном уме мрачные мысли о неизлечимых недугах и разбитых надеждах. В этом задании компьютер проявил такую возмутительную неполиткорректность, что исследователи, ужаснувшись, не стали дальше развивать расовую тему, а перешли к менее острым вопросам.

Эйджизм. Молодые люди ассоциировались с более приятными вещами, чем старики. Это предубеждение наблюдалось как у живых американцев, так и у компьютера, вплоть до полной неразличимости ответов человека и машины.

Гендерный шовинизм. Мужчина — работа, техника, наука. Женщина — семья, искусство, музыка. В этом вопросе компьютер тоже никак не отличался от живых испытуемых. Некоторые профессии — библиотекарь, стоматолог-терапевт — компьютер уверенно проассоциировал со слабым полом. Насколько уверенно? Удивительным образом гендерное предпочтение машины в точности совпадало с действительным процентом женщин в тех или иных профессиях.

И так далее, и тому подобное. Нет нужды углубляться в детали, потому что читатель давно уже разгадал, в чем тут фокус, и теперь кипит от негодования. Ну конечно же, искусственный интеллект — не ангел с неба, а продукт человеческой культуры, и все предложенные ему тексты — «словесные окружения» — были созданы людьми. Сенсация вообще-то не в этом, а в том, насколько легко компьютерный разум усвоил из человеческой культуры ту гниль, которую сами мы практически не замечаем. А теперь вообразите, какая работа — сознательная работа людей — потребуется, чтобы очистить скармливаемое компьютеру «культурное достояние человечества» от всей той дряни, которую мы незаметно для себя туда натащили.

Вот, например, надо вам нанять в фирму юриста. Чтобы уж точно создать всем кандидатам равные условия, вы поручаете сортировать резюме роботу... и робот исправно кладет на самый верх стопки заявления от белых мужчин. Ну просто такие у него, робота, ассоциации. Так что если вы думали, что сейчас придут киборги и исправят все то, что мы с вами тут нагородили со времен неолита, — ничего подобного. Роботы готовы продолжить наше дело и довести его до абсурда не хуже, чем мы это сделаем без них.

А что же делать, как стереть из электронных мозгов родовую метку человеческой узколобости? Один вариант мы уже рассмотрели: сортировать всю нашу культуру вручную — что можно читать кремниевому разуму будущего, а что ему еще рано. Джоанна Брайсон, один из авторов исследования, предлагает другой вариант: вместо того чтобы ограничивать машину в информации, надо просто добавить искусственный набор правил. Например, при найме на работу установить расовые и гендерные квоты... Позвольте, но люди и так уже это делают! Получается, что «позитивная дискриминация», affirmative action и т. п. — вовсе не временные меры переходного периода, необходимые до тех пор, пока люди не повзрослеют, а кое-что такое, что может пережить технологическую сингулярность. Людей не будет, а правила политкорректности пребудут вовек.

Возможно, читатели и не подозревали, что наши дела обстоят так скверно. Так вот, это исследование для того и задумано, чтобы нас слегка отрезвить. Искусственный интеллект — замечательная вещь, но он не отменяет необходимости немного поработать над собой. Если, конечно, мы не хотим снова и снова воспроизводить в своей истории ту же самую мерзость. На этот раз, для разнообразия, с помощью киборгов.