ТАШКЕНТ, 10 сен - Sputnik. Развитие искусственного интеллекта и машинного обучения давно затрагивает этические вопросы.
Один из них — ксенофобия. Чат-боты от Microsoft быстро обучились у людей расистским высказываниям и оскорблениям, а алгоритмы судебной системы по определению рисков оказались предвзятыми к афроамериканцам.
Онлайн-расизм и роль ИИ в нем
Поскольку администрация президента США Дональда Трампа продолжает свою жесткую политику в отношении иммиграции, как законной, так и нелегальной, предприятия все чаще обращаются к автоматизации труда. Рабочие места, ранее занимаемые людьми, теперь предоставлены роботам и алгоритмам.
Однако и машины имеют свои недостатки. Развитие искусственного интеллекта уже давно связано с проблемами личных убеждений в обучении роботов, если даже не с откровенным расистским и ксенофобским поведением. Это заметно по ботам социальных сетей от Microsoft, например, Tay и Zo, или по разработанной системе распознавания лиц Amazon, уже вызвавшей большие вопросы.
Но эта взаимосвязь не односторонняя — ИИ влияет на выражение ксенофобных идей так же, как подобные практики — на скорость развития ИИ. Это вызывает резонный вопрос: можем ли мы отделить пользу, которую дает ИИ, от негативных последствий, которые мы уже наблюдаем?
Конечно, связь между развитием ИИ и ксенофобией достаточно сложна. С одной стороны, воздействие его на ксенофобию представляет собой запутанный узел, в котором ИИ можно так же легко повернуть в ту сторону, чтобы идентифицировать и бороться с ксенофобными элементами в интернете. Его можно использовать в благих целях.
С другой стороны, ксенофобные отношения (особенно в сочетании со строгими иммиграционными законами в США) влияют на скорость, с которой разрабатываются и запускаются системы ИИ.
Даже в системе юстиции США системы распознавания лиц по алгоритму "Компас" в Висконсине страдают от предвзятого расистского отношения внутри самой структуры.
Это не означает, что каждый ИИ, разработанный для судебной системы, похож на вышеупомянутый случай. Недавно суд ювенальной юстиции округа Монтгомери одолжил IBM Watson, чтобы получить наиболее актуальную информацию о жизни детей и отношениях внутри семей для обеспечения им лучших условий жизни.
Ксенофобия рождает технологические прорывы
В некоторых случаях ИИ можно даже использовать для активного укрепления существующих расистских или ксенофобных догм. Существует, например, прототип "виртуальной пограничной стены", разработанный Anduril Industries — компанией бывшего основателя Oculus Палмера Лаки. Используя различные датчики, камеры и обученных роботов, технология "Решетка", которая управляет виртуальной стеной, определяет и идентифицирует движущиеся объекты на расстоянии.
Если этот объект окажется лицом, пересекающим границу США, система предупредит властей. Andruil Industries надеется, что в конечном итоге продаст свои технологии американскому правительству, чтобы помочь Трампу решить проблему с беженцами в США.
В то же время ксенофобия может повлиять на развитие ИИ не только через призму стандартного изучения расистских настроений. Есть вполне резонные опасения, что автоматизированный труд может вытеснить большинство людей с рабочих мест. А это приведет к широкомасштабной экономической катастрофе.
"Мы живем в мире, где соприкосновение с ксенофобией или антимиграционной политикой странным образом может привести к технологическим достижениям", — заявил Ильяс Нурбахш, профессор этики и вычислительных технологий Университета Карнеги-Меллона.
Японский подход
В качестве примера он приводит Японию. Островная страна имеет отличные законы в отношении иммиграции, а также строгие экзамены по лицензированию для работы в отраслях здравоохранения и домашнего ухода. Лицензирование включает в себя шестимесячный курс японского языка и культуры, прежде чем претенденты даже ступят на японскую землю.
Такая комбинация высокого спроса и низкого предложения, как утверждает Нурбахш, должна была теоретически привести к ослаблению требований к лицензированию или увеличить количество разрешений на работу для иностранцев. Вместо этого японцы решили действовать по-другому.
"Чтобы решить эту проблему, они вкладывают сотни миллионов долларов в развитие робототехники", — продолжает Нурбахш.
Из-за ограничительной иммиграционной политики "экономически целесообразно тратить огромные деньги, пытаясь развить роботов, чтобы научить их делать то, с чем прекрасно справляются и живые люди".
Aibo — с япон. — "любовь", "привязанность", а также — "товарищ". В данном случае аббревиатура англ. Artificial Intelligence RoBOt — серия собак-роботов, разработанная компанией Sony.
Мигранты и экономическая выгода
Аналогичные проблемы сегодня наблюдаются и в США — из-за жесткой позиции нынешней администрации в отношении всех форм иммиграции и ее агрессивной политики депортации, ориентированной на рабочих-мигрантов. Сельскохозяйственные компании вкладывают деньги в автоматизацию производства, чтобы компенсировать потери человеческого труда.
"Сельское хозяйство действительно является отраслью, где наиболее очевидно, что ограничения на иммиграцию приводят к развитию и внедрению механизации, — отмечает доктор Дженнифер Хант, профессор экономики Университета Рутгерса. — Эксперимент Майкла Клеменса и Этана Льюиса показал, что даже окончание программы "Брасеро" не привело к повышению заработной платы местных сельскохозяйственных рабочих и лишь стало триггером к тому, чтобы прибегнуть к автоматизации труда".
Программа "Брасеро" осуществлялась с 1949 по 1964 годы. В это время в США мексиканские рабочие ("брасеро") допускались к тяжелой работе в сельском хозяйстве по контракту.
"Мои исследования показывают, что иммигранты с колледжем или большим уровнем образования подают заявки и получают патенты на осуществление деятельности в два раза быстрее, чем коренные жители, — спорит с этим утверждением Хант. — А значит, дело не в переводе патента на родной язык. Патентование увеличивает экономический прирост в США на душу населения. Получается, что иммигранты улучшают благосостояние всех американцев".
