Искусственный интеллект всё глубже проникает в повседневную жизнь, однако его развитие сопровождается сохранением и даже усилением уже существующих форм дискриминации.
Об этом говорится в новом докладе структуры «ООН-женщины». В нём подчёркивается, что современные технологии нередко воспроизводят устаревшие представления о роли женщин, способствуют распространению насилия в онлайн-среде и ограничивают участие женщин в принятии решений, касающихся цифрового будущего, сообщает пресс-служба ООН.
Это предупреждение прозвучало на фоне стремительного распространения генеративного ИИ. Сегодня такие инструменты используются миллиардами людей — от написания электронных писем до создания презентаций и проведения информационных кампаний. Однако, по мнению авторов доклада, алгоритмы могут усиливать уже существующие неравенства, заложенные в данных.
Так, в Великобритании, согласно приведённым данным, 88% рекламных и медиакомпаний уже применяют подобные технологии. В преддверии Глобального диалога ООН по управлению ИИ и саммита AI for Good, которые состоятся в начале июля в Женеве, «ООН-женщины» призвали власти, бизнес и разработчиков учитывать принципы гендерного равенства на всех этапах — от проектирования до регулирования систем ИИ.
Исследование 133 систем показало, что в 44% случаев присутствует гендерная предвзятость, а более чем в четверти — одновременно гендерная и расовая дискриминация. При этом крупные языковые модели часто ассоциируют женщин с семьёй, домашними обязанностями и уходом за детьми, а мужчин — с карьерой, лидерством и бизнесом. В ряде ответов женщины представлены как сексуализированные объекты или зависимые от мужчин.
По данным «ООН-женщины», примерно каждый пятый ответ ИИ на запросы с указанием пола содержит сексистские или женоненавистнические элементы. Иногда женщины описываются как собственность или объект. Эксперты подчёркивают, что это не случайные ошибки, а результат системной проблемы: модели обучаются на огромных массивах данных, отражающих многолетние гендерные перекосы в обществе.
Эксперт по цифровым технологиям Джаятма Викраманаяке отметила в интервью Службе новостей ООН, что искусственный интеллект фактически наследует предубеждения, накопленные в текстах, созданных людьми. По её мнению, проблема заключается не столько в технических недоработках, сколько в недостатке продуманной государственной политики.
Согласно исследованию, лишь 24 из 138 стран учитывают гендерные аспекты в национальных стратегиях развития ИИ, а конкретные меры по обеспечению гендерного равенства предусмотрены только в 18 государствах.
Кроме того, в докладе говорится о росте онлайн-насилия, связанного с использованием ИИ. Почти каждая четвёртая опрошенная женщина — правозащитница, активистка или журналистка — сообщила, что сталкивалась с такими проявлениями. Ещё 12% заявили о распространении их изображений без согласия, а 6% стали жертвами дипфейков или изменённого визуального контента.
С расширением использования ИИ-контента усиливаются опасения, что случаи травли, манипуляций и злоупотребления изображениями станет сложнее выявлять и предотвращать.
Авторы также обращают внимание на низкое представительство женщин в сфере разработки ИИ. По данным Международной организации труда, они составляют лишь около 30% работников в этой области. В «ООН-женщины» подчёркивают, что без более широкого участия женщин и других недостаточно представленных групп технологическое развитие рискует закрепить существующие предубеждения.
Отдельно рассматриваются и экономические последствия. Женщины почти вдвое чаще, чем мужчины, заняты в профессиях с высоким риском автоматизации. Дополнительную роль играют такие факторы, как раса, инвалидность, уровень дохода и место проживания. Эксперты предупреждают: при отсутствии целенаправленной поддержки уязвимые группы могут ещё сильнее отдалиться от возможностей, открываемых цифровой экономикой.
