Национальный кодекс этики в сфере искусственного интеллекта

Национальный кодекс этики в сфере искусственного интеллекта

I. Общие положения

Назначение кодекса и цели.

Принимая во внимание динамичное развитие технологий искусственного интеллекта (далее – ИИ), а также общественную значимость результатов применения технологий ИИ,

признавая важность ответственного отношения к разработкам в области искусственного интеллекта,

учитывая потенциально высокую автономность систем ИИ (способность самостоятельного принятия решений), в частности отсутствие в ряде случаев способов точного выявления и описания их алгоритмов функционирования и подтверждения заявленных свойств,

исходя из необходимости формирования этических ориентиров поведения в связи с возникновением новых вызовов и угроз, связанных с ситуациями морального выбора/этическими дилеммами при создании, применении, использовании и регулировании технологий ИИ,в целях обеспечения доверия пользователей, общества и государства к технологиям искусственного интеллекта, а также разработки и использования технологий ИИ в интересах человека и общества на основе сбалансированного подхода и социальной ответственности бизнеса, а также повышения доверия общества к системам ИИ (далее – СИИ) и результатам их применения,

настоящий Кодекс этики в сфере искусственного интеллекта (далее – Кодекс)  устанавливает общие принципы и стандарты поведения, которыми могут руководствоваться акторы в сфере искусственного интеллекта (далее – Акторы ИИ) в своей деятельности, а также механизмы реализации положений настоящего Кодекса. Действие настоящего Кодекса распространяется исключительно на СИИ, применяемые в гражданских (не военных) целях. 

2. Допустимость отраслевых кодексов. Положения Кодекса могут быть расширены и конкретизированы для отдельных групп Акторов ИИ с учетом особенностей решаемых задач, класса и назначения СИИ, уровня возможных рисков, а также специфического контекста и среды, в которой применяются СИИ.

3. Рекомендательный характер. Положения настоящего Кодекса носят рекомендательный характер и применяются соответствующими Акторами ИИ на добровольной основе Этические нормы могут играть важную роль в тех случаях, где нормативные требования не сформулированы и законодательно не закреплены.

Кодекс и нормативные акты.

Кодекс направлен на достижение целей, предусмотренных Национальной стратегией развития искусственного интеллекта до 2030 г., утвержденной Указом Президента Российской Федерации
от 10 октября 2019 г. № 490, Концепцией развития регулирования отношений
в сфере технологий искусственного интеллекта и робототехники до 2024 года, утвержденной Распоряжением Правительства Российской Федерации
от 19 августа 2020 г. № 2129-р., Стратегией развития информационного общества в Российской Федерации на 2017 – 2030 годы, федеральным проектом «Искусственный интеллект».

В основе Кодекса лежит законодательство Российской Федерации, в том числе Конституция Российской Федерации, иные нормативно-правовые акты, а также ратифицированные Российской Федерацией международные договоры и соглашения, применимые к вопросам обеспечения прав и свобод граждан в контексте использования информационных технологий, в том числе цели ООН в области устойчивого развития[1]; Всеобщая декларация прав человека[2], Европейская конвенция по правам человека, Конвенция о защите прав человека и основных свобод [3].

5. Круг действия. Для целей настоящего Кодекса под Акторами в сфере искусственного интеллекта понимается круг лиц, в том числе иностранных, принимающих участие в жизненном цикле СИИ, при его реализации на территории Российской Федерации или в отношении лиц, находящихся на территории Российской Федерации, включая предоставление товаров и оказание услуг. Каждый из  Акторов ИИ, в том или ином виде должен понимать и принимать во внимание этическую сторону своих решений или действий с использованием СИИ или в отношении СИИ. К таким лицам (Акторы ИИ) относятся, в том числе:

- лица, принимающие участие в регуляторном воздействии на сферу ИИ, в том числе разработчики нормативно-технических документов, руководств, различных регуляторных положений, требований и стандартов в области ИИ;

- заказчики (организация или лицо), получающие продукт или услугу;

- разработчики, создающие, обучающие, тестирующие модели/системы ИИ и разрабатывающие, реализующие такие модели/системы программные и/или аппаратные комплексы и принимающие на себя ответственность в отношении их конструкции;

- поставщики данных и лица, осуществляющие формирование наборов данных для применения их в СИИ;

- эксперты, осуществляющие измерение и/или оценку параметров разработанных моделей/систем;

- изготовители, осуществляющие производство СИИ;

- эксплуатанты СИИ, на законном основании владеющие соответствующими системами, использующие их по назначению и непосредственно реализующие решение прикладных задач с использованием СИИ;

- операторы (лицо или организация), осуществляющие работу СИИ (роль оператора и роль пользователя могут возлагаться одновременно или последовательно на одно и то же лицо или организацию);

- пользователи (лицо или группа лиц, в том числе потребители), извлекающие пользу из СИИ в процессе ее применения и являющиеся потребителями услуг, сервисов и продуктов, использующих технологии ИИ;

- лица, действия которых потенциально могут повлиять на результаты действий СИИ или лиц, принимающих решения с использованием СИИ.

Термины

Термины и определения в настоящим Кодексе определяются в соответствие с действующими нормативными-правовыми актами и документами нормативно-технического регулирования в сфере ИИ[4].

 

Национальный кодекс этики в сфере искусственного интеллекта

I. Общие положения

Назначение кодекса и цели.

Принимая во внимание динамичное развитие технологий искусственного интеллекта (далее – ИИ), а также общественную значимость результатов применения технологий ИИ,

признавая важность ответственного отношения к разработкам в области искусственного интеллекта,

учитывая потенциально высокую автономность систем ИИ (способность самостоятельного принятия решений), в частности отсутствие в ряде случаев способов точного выявления и описания их алгоритмов функционирования и подтверждения заявленных свойств,

исходя из необходимости формирования этических ориентиров поведения в связи с возникновением новых вызовов и угроз, связанных с ситуациями морального выбора/этическими дилеммами при создании, применении, использовании и регулировании технологий ИИ,в целях обеспечения доверия пользователей, общества и государства к технологиям искусственного интеллекта, а также разработки и использования технологий ИИ в интересах человека и общества на основе сбалансированного подхода и социальной ответственности бизнеса, а также повышения доверия общества к системам ИИ (далее – СИИ) и результатам их применения,

настоящий Кодекс этики в сфере искусственного интеллекта (далее – Кодекс)  устанавливает общие принципы и стандарты поведения, которыми могут руководствоваться акторы в сфере искусственного интеллекта (далее – Акторы ИИ) в своей деятельности, а также механизмы реализации положений настоящего Кодекса. Действие настоящего Кодекса распространяется исключительно на СИИ, применяемые в гражданских (не военных) целях. 

2. Допустимость отраслевых кодексов. Положения Кодекса могут быть расширены и конкретизированы для отдельных групп Акторов ИИ с учетом особенностей решаемых задач, класса и назначения СИИ, уровня возможных рисков, а также специфического контекста и среды, в которой применяются СИИ.

3. Рекомендательный характер. Положения настоящего Кодекса носят рекомендательный характер и применяются соответствующими Акторами ИИ на добровольной основе Этические нормы могут играть важную роль в тех случаях, где нормативные требования не сформулированы и законодательно не закреплены.

Кодекс и нормативные акты.

Кодекс направлен на достижение целей, предусмотренных Национальной стратегией развития искусственного интеллекта до 2030 г., утвержденной Указом Президента Российской Федерации
от 10 октября 2019 г. № 490, Концепцией развития регулирования отношений
в сфере технологий искусственного интеллекта и робототехники до 2024 года, утвержденной Распоряжением Правительства Российской Федерации
от 19 августа 2020 г. № 2129-р., Стратегией развития информационного общества в Российской Федерации на 2017 – 2030 годы, федеральным проектом «Искусственный интеллект».

В основе Кодекса лежит законодательство Российской Федерации, в том числе Конституция Российской Федерации, иные нормативно-правовые акты, а также ратифицированные Российской Федерацией международные договоры и соглашения, применимые к вопросам обеспечения прав и свобод граждан в контексте использования информационных технологий, в том числе цели ООН в области устойчивого развития[1]; Всеобщая декларация прав человека[2], Европейская конвенция по правам человека, Конвенция о защите прав человека и основных свобод [3].

5. Круг действия. Для целей настоящего Кодекса под Акторами в сфере искусственного интеллекта понимается круг лиц, в том числе иностранных, принимающих участие в жизненном цикле СИИ, при его реализации на территории Российской Федерации или в отношении лиц, находящихся на территории Российской Федерации, включая предоставление товаров и оказание услуг. Каждый из  Акторов ИИ, в том или ином виде должен понимать и принимать во внимание этическую сторону своих решений или действий с использованием СИИ или в отношении СИИ. К таким лицам (Акторы ИИ) относятся, в том числе:

- лица, принимающие участие в регуляторном воздействии на сферу ИИ, в том числе разработчики нормативно-технических документов, руководств, различных регуляторных положений, требований и стандартов в области ИИ;

- заказчики (организация или лицо), получающие продукт или услугу;

- разработчики, создающие, обучающие, тестирующие модели/системы ИИ и разрабатывающие, реализующие такие модели/системы программные и/или аппаратные комплексы и принимающие на себя ответственность в отношении их конструкции;

- поставщики данных и лица, осуществляющие формирование наборов данных для применения их в СИИ;

- эксперты, осуществляющие измерение и/или оценку параметров разработанных моделей/систем;

- изготовители, осуществляющие производство СИИ;

- эксплуатанты СИИ, на законном основании владеющие соответствующими системами, использующие их по назначению и непосредственно реализующие решение прикладных задач с использованием СИИ;

- операторы (лицо или организация), осуществляющие работу СИИ (роль оператора и роль пользователя могут возлагаться одновременно или последовательно на одно и то же лицо или организацию);

- пользователи (лицо или группа лиц, в том числе потребители), извлекающие пользу из СИИ в процессе ее применения и являющиеся потребителями услуг, сервисов и продуктов, использующих технологии ИИ;

- лица, действия которых потенциально могут повлиять на результаты действий СИИ или лиц, принимающих решения с использованием СИИ.

Термины

Термины и определения в настоящим Кодексе определяются в соответствие с действующими нормативными-правовыми актами и документами нормативно-технического регулирования в сфере ИИ[4].