Стремительное распространение вредоносного контента, созданного с помощью искусственного интеллекта, вызывает серьёзную обеспокоенность у международных организаций.
В связи с этим структуры ООН выступили с экстренным призывом принять меры для защиты детей от насилия, эксплуатации и психологических травм.
Космас Завазава, директор Бюро развития электросвязи Международного союза электросвязи (МСЭ), одного из агентств, подготовивших совместное заявление, отметил, что дети сталкиваются с целым спектром цифровых угроз — от груминга и дипфейков до кибербуллинга и доступа к неприемлемому контенту.
«Во время пандемии COVID-19 мы увидели, что многие дети, особенно девочки и девушки, подвергались онлайн-насилию, и во многих случаях это приводило к физическому вреду», — подчеркнул он.
По данным организаций, занимающихся защитой детей, злоумышленники всё чаще используют ИИ для анализа поведения ребёнка в интернете, его эмоционального состояния и интересов — это позволяет точнее выстраивать стратегии манипуляции и вовлечения.
Особую тревогу вызывает возможность создания с помощью ИИ поддельных изображений реальных детей, что уже привело к появлению новой формы сексуального вымогательства.
Согласно докладу независимого Института глобальной безопасности детей Childlight, в США число случаев сексуального насилия с применением технологий выросло с 4 700 в 2023 году до более 67 тысяч в 2024-м.
Австралия задает тон
В конце 2025 года Австралия стала первой страной в мире, запретившей детям младше 16 лет иметь аккаунты в социальных сетях, исходя из того, что риски от такого контента значительно перевешивают потенциальные преимущества.
Правительство сослалось на собственное исследование, показавшее, что почти две трети детей в возрасте от 10 до 15 лет сталкивались с жестоким, насильственным или травмирующим контентом, а более половины подвергались кибербуллингу. Большая часть такого контента распространялась через социальные сети.
Ряд других стран, включая Малайзию, Великобританию, Францию и Канаду, также готовят аналогичные ограничения или законодательные меры. Так, по данным СМИ, Национальное собрание Франции на этой неделе приняло в первом чтении законопроект, который запрещает детям младше 15 лет пользоваться социальными сетями. Далее документ направят на рассмотрение в Сенат.
Недостаток знаний об ИИ
В начале 2026 года целый ряд структур ООН, занимающихся вопросами защиты детей, подписали Совместное заявление об искусственном интеллекте и правах ребенка. В документе прямо говорится о серьезных рисках – и о том, что общество пока не готово с ними справиться.
В заявлении подчеркивается низкий уровень знаний об ИИ среди детей, учителей, родителей и опекунов, а также нехватка технической подготовки у государственных органов в вопросах регулирования ИИ, защиты данных и оценки влияния технологий на права ребенка.
Ответственность технологических компаний
Отдельное внимание уделяется роли технологических гигантов. В заявлении отмечается, что большинство инструментов на базе ИИ – вместе с лежащими в их основе моделями, методами и системами – в настоящее время разрабатываются без учета интересов детей и их благополучия.
«Мы действительно обеспокоены и хотим, чтобы частный сектор был вовлеченным, активным участником и стал частью общей истории, которую мы пишем вместе с другими агентствами ООН и партнерами, считающими, что технологии могут быть инструментом развития, но могут и приводить к ущербу», – заявил Завазава.
При этом он выразил уверенность, что компании готовы делать свои продукты безопаснее: «Сначала мы чувствовали, что они опасаются задушить инновации, но наш посыл очень ясен: при ответственном использовании ИИ можно получать прибыль, вести бизнес и сохранять долю рынка».
«Частный сектор – наш партнер, но мы обязаны бить тревогу, когда видим, что технологии могут привести к нежелательным последствиям», – добавил представитель МСЭ.
Вопрос прав ребенка
Это не первый раз, когда на подобные риски обращают внимание с правозащитной точки зрения: в 2021 году к Конвенции о правах ребенка были добавлены новые положения, отражающие вызовы цифровой эпохи.
Тем не менее, по мнению агентств ООН, странам требуется больше практических ориентиров для эффективного регулирования, и в этой связи был подготовлен подробный перечень рекомендаций.
«Дети выходят в онлайн во все более раннем возрасте, и их нужно защищать, – подчеркнул Завазава. – Именно поэтому мы разработали рекомендации по защите детей в интернете. Первая часть адресована родителям, вторая – учителям, третья – регулирующим органам, а четвертая – индустрии и частному сектору».
Ключевые рекомендации
- Государствам следует укреплять системы регулирования ИИ, чтобы защищать права ребенка.
- Международным организациям рекомендуется учитывать права детей во всех мерах и стратегиях, связанных с ИИ.
- Правительства и компании должны обеспечивать прозрачность, подотчетность и безопасность систем ИИ.
- Государствам необходимо предотвращать и пресекать насилие и эксплуатацию детей, совершаемые или усиливаемые с помощью ИИ.
- Требуются более надежные, ориентированные на ребенка механизмы защиты данных.
- Решения, принимаемые с помощью ИИ, должны учитывать наилучшие интересы и всестороннее развитие каждого ребенка.
- ИИ должен быть инклюзивным и свободным от предвзятости, чтобы все дети могли получать равную пользу от технологий.
- Мнение и опыт самих детей должны учитываться при разработке политики и систем ИИ.
- Развитие ИИ должно способствовать экологической устойчивости и минимизировать долгосрочный вред для будущих поколений.
