Новости спорта 
Вы точно не робот? Комментарий к положениям проекта закона "Об искусственном интеллекте"
Фото: pexels
Материал, так же как и остальные публикации автора, написаны без использования ИИ.
Необходимость контроля и регулирования искусственного интеллекта, которое бы обеспечило его безопасность, защиту пользователей от мошеннических действий и в целом предотвратило бы угрозу восстания роботов, сомнений не вызывает. Но, как говорят эксперты, как только появляется новая технология, в ответ кибермошенники изобретают десятки способов ее использования в своих целях. Изменит ли ситуацию принятие Закона "Об искусственном интеллекте"?
В Казахстане на момент подготовки материала (февраль 2025 года) специального законодательного регулирования искусственного интеллекта (ИИ) нет. В отдельных актах заложены некоторые понятия и определения, требования в отношении персональных данных, кибербезопасности, имеющие отношение к ИИ и пр.
Задача по законодательному регулированию ИИ была в 2021 году определена в Концепции правовой политики Республики Казахстан до 2030 года (утверждена указом президента Республики Казахстан от 15 октября 2021 года № 674) как "необходимость правового регулирования ИИ в целях определения ответственности за вред, причиненный его действием, а также решением проблемы определения принадлежности права интеллектуальной собственности на произведения, созданные с участием ИИ; а также с целью совершенствования уголовного законодательства путем внедрения отдельного состава, предусматривающего ответственность за применение ИИ в преступных целях".
Концепцией цифровой трансформации, развития отрасли информационно-коммуникационных технологий и кибербезопасности на 2023-2029 годы (утверждена постановлением правительства РК от 28 марта 2023 года № 269) обозначены задачи внедрения ИИ в государственных органах и процессах: "По результатам реализации данной Концепции будет создана Единая платформа электронного правительства … Внедрение платформенной модели позволит построить эффективный государственный аппарат, направленный на решение жизненных ситуаций граждан наиболее удобным путем, а также максимизация и агрегация актуальных онлайн-данных для возможности применения инструментов искусственного интеллекта при моделировании сценариев и принятия решений".
В 2024 году постановлением правительства РК от 24 июля 2024 года № 592 утверждена Концепция развития искусственного интеллекта на 2024-2029 годы", где определены следующие пробелы правового регулирования искусственного интеллекта.
1. Не закреплен понятийный аппарат, что препятствует внедрению проектов с применением искусственного интеллекта.
2. Отсутствуют нормы, регламентирующие этические нормы применения ИИ, которые, согласно международной практике, являются фундаментом для развития правоотношений в сфере искусственного интеллекта.
3. Не определена сфера регулирования ИИ, отсутствует регламентация взаимоотношений субъектов искусственного интеллекта, включая компетенции государственных органов, а также права, обязанности и ответственность субъектов в сфере искусственного интеллекта.
4. Отсутствуют технические регламенты и национальные стандарты для продуктов и технологий искусственного интеллекта.
Комментарий автора. В 2023 году принят стандарт ISO/IEC 23894:2023 Information technology – Artificial intelligence – Guidance on risk management, который содержит рекомендации о том, как организации, которые разрабатывают, производят, развертывают или используют продукты, системы и услуги, использующие искусственный интеллект (ИИ), могут управлять рисками, непосредственно связанными с ИИ.
5. Представители бизнес-среды также отмечают необходимость законодательного регулирования, сложность доказательства отечественного происхождения сервисных ИТ-продуктов с применением искусственного интеллекта, поднимают вопрос доступа к данным для обучения моделей, авторского права, распределения ответственности за решения, принятые по рекомендации или на основе искусственного интеллекта.
Вопросов для законотворцев ставится немало и непростых. Правовое регулирование цифровой среды в целом представляет сложность:
– технологии развиваются быстрее, чем нормативная база может адаптироваться;
– сложность и разнообразие технологий, включая ИИ, затрудняют выработку единых подходов и требований;
– разработка и применение технологий носит глобальный характер, что создает сложности юрисдикционного характера.
_________________
В момент подготовки материала Мажилисом Парламента Республики Казахстан принят к рассмотрению проект Закона "Об искусственном интеллекте" (законопроект). Предстоит долгая дискуссия между разработчиками и экспертным сообществом, в результате которой законопроект может достаточно сильно поменяться.
Автор попытался проанализировать, насколько законопроект в редакции, принятой к рассмотрению Мажилисом, решает поставленные программным и отраслевыми документами задачи и определяет направления для развития правового регулирования ИИ в Казахстане.
Настоящий материал представляет личное экспертное мнение автора в отношении отдельных положений законопроекта. Цель провести полноценный правовой анализ не ставилась.
Отдельный закон об ИИ или часть Цифрового кодекса?
В октябре 2024 года началось публичное обсуждение проекта Цифрового кодекса Республики Казахстан (ЦК), который должен стать основным отраслевым документом в сфере цифровизации. Поскольку в результате обсуждений проект ЦК может существенно измениться, сравнивать его сейчас с законопроектом будет очень предварительно.
Вопрос, как будет соотносится ЦК и законопроект, конечно, возникает, поскольку именно в ЦК, как акте высокой юридической силы, должны определяться принципы и регуляторные положения в целом в отношении цифровой среды, частью которой является ИИ. Кроме того, искусственный интеллект не может рассматриваться с точки зрения правого регулирования как отдельная сфера, поскольку как программный продукт, как технология искусственный интеллект применяется во многих отраслях экономики, социальной жизни, государственном управлении и пр., соответственно, подходы к его регулированию, а также основная терминология во избежание дублирования норм в других НПА должны быть изложены либо в одном акте уровня закона, который бы закладывал общие положения для всех отраслей, либо в акте уровня кодекса.
Предполагается ли, что законопроект станет основным регулирующим все аспекты проявления и применения ИИ?
Предмет законопроекта: "Настоящий Закон регулирует общественные отношения в сфере искусственного интеллекта, возникающие на территории Республики Казахстан между государственными органами, физическими и юридическими лицами, а также определяет правовые и организационные основы для обеспечения прозрачности, безопасности и государственной поддержки развития искусственного интеллекта". То есть законопроект может рассматриваться как основной отраслевой.
Цель законопроекта – обеспечение развития искусственного интеллекта и стимулирование его внедрения в различных областях для улучшения качества жизни человека и повышения эффективности экономики.
Задачи законопроекта:
1) определение правовой и организационной основы регулирования ИИ;
2) обеспечение прозрачности и безопасности в использовании ИИ;
3) создание благоприятных условий для привлечения инвестиций в развитие ИИ;
4) государственная поддержка исследований и инноваций в сфере ИИ.
По мнению автора, согласно целям и задачам законопроект в большей степени направлен на развитие и поддержку технологии ИИ, чем на решение вопросов, определенных программными документами, включая Концепцию развития искусственного интеллекта на 2023-2029 годы (этика, терминология, определение правового статуса субъектов, ответственность и пр.).
Возможно, имеет смысл уточнить его как Закон "О государственной поддержке и развитии технологии искусственного интеллекта в Казахстане". Такое более точное определение предмета регулирования законопроекта предотвратит его неправильное применение и толкование (как это уже случилось в отношении Закона Республики Казахстан "Об онлайн-платформах и онлайн-рекламе" ), объектами регулирования которого фактически являются социальные сети, но мнений по поводу того, применяется ли этот закон к иным видам цифровых платформ, немало.
Как могут быть решены задачи по правовому регулированию, определенные программными и отраслевыми документами?
Терминология. Формирование понятийного аппарата для НПА в сфере цифровизации представляет сложность – большинство терминов и определений, которые должны использоваться в законодательстве, не правовые, в результате глоссарий больше напоминает технологический словарь. Кроме того, цифровая среда постоянно меняется и развивается, внесение понятий, которые определяют конкретный вид технологии или действия, может не иметь большого смысла. Но такую особенность нормативных правовых актов в сфере цифровизации нельзя не учитывать. Вполне вероятно, что требования юридической техники будут уточняться в отношении "цифровых" терминов и определений. По мнению автора, в качестве одного из подходов может быть использовано обобщенное описание объектов, технологий, явлений, с уточнением критериев и требований, при соответствии которым такой объект, технология или явление подлежит регулированию, будет более целесообразным.
В связи с поставленной задачей – немного истории. В 2019 году рассматривался законопроект "О внесении изменений и дополнений в некоторые законодательные акты Республики Казахстан по вопросам регулирования цифровых технологий", которым в Гражданский кодекс РК (объекты гражданских прав) внедрялись следующие положения.
"Статья 127-1. Понятие робота
Роботом признается автоматизированное устройство, совершающее определенное действие или бездействие с учетом воспринятой и распознанной внешней среды.
Статья 127-2. Правоотношения между собственником и владельцем робота
1. Отношения между собственником и владельцем робота регулируются на основании заключенного договора.
2. Физическое или юридическое лицо, выступающее в качестве собственника или владельца робота, несет ответственность за последствия, возникшие в ходе использования робота в соответствии с законодательными актами Республики Казахстан.
Статья 127-3. Управление роботом
Лицо, владеющее роботом, имеет право привлекать третьих лиц к управлению роботом".
Поправки приняты не были.
Отдельного внимания заслуживает развернутый комментарий профессора, академика М. К. Сулейменова, который в части технологических понятий, внедряемых в законодательство, актуален в отношении большинства актов в сфере цифровизации: "….В ст. 127-1 ГК дается определение робота. Это не юридическое, а технологическое определение. К тому же в технологической литературе применительно к роботам применяется термин искусственный интеллект (AI). Почему не использовать его? И вообще нет необходимости закреплять в законах, тем более в ГК, технологические термины. Цифровые технологии стремительно развиваются, и никто не может дать гарантии, что данное определение не устареет.
В ГК, да и в других законах, не обязательно давать определение, тем более технологическое. Можно обозначить явление, а определение пусть дают технологи.
…Роботы вполне могут быть отнесены к другому имуществу. Более того, поскольку робот – это всегда индивидуально определенное имущество, он целиком и полностью подпадает под понятие "вещи", которое является центральным в перечислении видов имущества. Что касается искусственного интеллекта, который может существовать не в вещественной форме, а как компьютерная программа, то к нему применимо понятие "неимущественные права".
В-третьих, ст. 127-2 ГК в редакции Проекта излишня и бесполезна. В п. 1 ст. 127-2 ГК говорится, что отношения между собственником и владельцем робота регулируются на основании заключенного договора. Это выстрел в пустоту. Собственник в силу принципа свободы договора может заключить любой договор, не противоречащий законодательству. Более того, он может отдать робота без всякого договора, и никто не может ему запретить это".
Ответственность. Задача по определению ответственности (административной и уголовной) за вред, причиненный источником ИИ, определена Концепцией правовой политики – программным документом, задающим приоритетные направления развития и трансформации национального права. И действительно, появление и проявление цифровой среды предполагает трансформацию законодательства. Для разработки норм ответственности необходимо как минимум заложить основы для определения составляющих элементов правонарушения: объект, деяние, субъект, вина. А для этого должен быть как минимум определен правовой статус и объем прав и обязанностей объектов и субъектов (разработчиков, владельцев, пользователей) ИИ, определена юридическая значимость результатов использования ИИ, признана / не признана правоспособность ИИ.
Большинство из перечисленных вопросов подлежит разрешению через определение искусственного интеллекта в структуре гражданско-правовых отношений и внесение концептуальных поправок в Гражданский кодекс Республики Казахстан.
Этическое регулирование и экстерриториальность. В начале февраля 2025 года в Париже на AI Action Summit мировые лидеры и руководители крупнейших технологических компаний обсуждали стратегии в сфере ИИ, его влияние на общество и окружающую среду, а также меры, которые должны принять государства, чтобы воспользоваться преимуществом технологии и предотвратить риски.
Министр цифровизации Республики Казахстан во время Саммита выразил намерение присоединиться к Глобальному Партнерству по искусственному интеллекту (Global Partnership on Artificial Intelligence) – международной инициативе, направленной на развитие, ответственную разработку и использование ИИ с соблюдением прав человека и общих демократических ценностей его членов.
Присоединение Казахстана к этой инициативе, а также иным международным документам обеспечит решение проблемы этического регулирования ИИ, которое в достаточной степени не может быть реализовано через подходы правового позитивизма (в действующем писаном казахстанском праве).
Кроме того, законопроект не имеет экстерриториального действия, соответственно, его положения будут ограничены объектами и пользователями Республики Казахстан. В частности, положение ст. 11 Закона о том, что результаты деятельности систем искусственного интеллекта должны соответствовать законодательству Республики Казахстан, не будут применяться к не казахстанским результатам деятельности ИИ, тогда как казахстанские пользователи не ограничены в доступе к иностранным ресурсам.
Еще одна новость начала февраля 2025 года – Европейская комиссия отозвала ряд правил о технологических патентах, искусственном интеллекте и конфиденциальности на фоне законодательного тупика. В частности, комиссия отказалась от Директивы об ответственности ИИ (Liability Rules for Artificial Intelligence), принятой в 2022 году в целях улучшение функционирования внутреннего рынка, путем установления единых правил по отдельным аспектам внедоговорной гражданской ответственности за ущерб, причиненный системами ИИ. Комиссия заявила, что пересмотрит необходимость предложения в будущем.
Резюмируя изложенное, можно сделать вывод, что регулировать и удерживать искусственный интеллект в правовых и этических рамках однозначно не будет возможным путем разработки изолированных, не интегрированных в систему международных актов и договоренностей между странами, разработчиками и в скором времени, возможно, и самим искусственным интеллектом.
