Искусственный интеллект может быть использован для создания беспрецедентного количества реалистичных материалов о сексуальном насилии над детьми. Об этом предупредили в группе по обеспечению безопасности в интернете Internet Watch Foundation (IWF), сообщает Sky News.
По данным IWF, многие люди не смогли бы отличить искусственные изображения от реальных.
На исследуемых веб-страницах, о некоторых из которых сообщали пользователи, были изображены дети в возрасте до трех лет.
Руководитель IWF Сьюзи Харгривз призвала премьер-министра Великобритании Риши Сунака отнестись к этой проблеме как к главному приоритету. В конце 2023 года Великобритания будет принимать глобальный саммит по ИИ.
"В настоящее время мы не наблюдаем огромного количества таких изображений, но для нас очевидно, что преступники могут создавать беспрецедентные объемы изображений сексуального насилия над детьми. Это потенциально разрушительно для безопасности интернета и безопасности детей в Сети".Сьюзи Харгривз
Подобную тревогу выразили и в Национальном агентстве по борьбе с преступностью Великобритании (NCA).
Директор NCA по управлению угрозами Крис Фарримонд отметил, что при увеличении объема генерируемых ИИ изображений увеличится и время, которое затратят полицейские для выявления реальных опасных ситуаций с детьми.
Ранее премьер Великобритании Риши Сунак заявил, что на предстоящем глобальном саммите будут обсуждать защитные механизмы, которые могли бы снизить будущие риски, связанные с ИИ.
Политик уже встретился с ведущими игроками отрасли, в том числе с представителями Google и компании OpenAI, создавшей систему ChatGPT.
"Контент, созданный искусственным интеллектом для сексуальной эксплуатации и насилия над детьми, является незаконным, независимо от того, изображен на нем реальный ребенок или нет. Это означает, что технологические компании будут обязаны заблаговременно выявлять и удалять такой контент в соответствии с законопроектом о безопасности в интернете, который разработан для того, чтобы идти в ногу с развивающимися технологиями, такими как ИИ".Риши Сунак
В IWF также заявили, что им удалось найти в Сети руководство, написанное злоумышленниками для того, чтобы помочь другим использовать ИИ для создания еще более реалистичных изображений насилия.