Заполните схему основные принципы кодекса компьютерной этики

Обновлено: 04.07.2024

Сейчас компьютеры используются повсеместно, и поэтому понятие компьютерной этики является крайне актуальным для большинства простых граждан и тем более для людей, у которых рабочие обязанности связаны с использованием компьютерной техники. Именно поэтому как руководителям, так и подчиненным в отделах, где используются компьютеры, необходимо быть знакомыми с базовыми принципами компьютерной этики. Еще более актуальным вопрос компьютерной этики и компьютерного права является для компаний и лиц, чья деятельность прямо связана с разработкой различного программного обеспечения или практических технических решений в информационной сфере.

Компьютерная этика — что это такое, история, определение

Еще на заре разработки компьютерного обеспечения, люди оценивали потенциальные риски массового использования компьютерной техники и технологий, и предполагали возможность крайне негативного влияния тех или иных аспектов компьютеризации на человеческое общество. Именно поэтому сфера компьютерной техники и программного обеспечения значительно сильно выделяется в сравнении со многими другими направлениями человеческой деятельности — базовые этические принципы работы с компьютерами сформировались на самых ранних этапах их применения, еще до того, как они стали обыденной частью повседневной жизни.

Во многом это связано с тем, что к моменту выхода компьютеров на массовый рынок, сфера их разработки уже давно применяла сформированные задолго до этого принципы этики ученых, стремясь предвосхитить возможные этические, моральные и нравственные конфликты, способные возникнуть в общества с появлением компьютеров. Поэтому во многом эти сферы используют одни и те же основные этические установки и общие правила деятельности.

Но что же такое компьютерная этика? Это понятие рассматривается в двух направлениях:

Компьютерная этика как дисциплина и направление исследований. В данном контексте под компьютерной этикой подразумевается наука, оценивающая влияние компьютеров на общество и корреляцию различных аспектов их использования с вопросами общественной нравственности и морали.
Компьютерная этика как свод правил и нормативов. Этот контекст подразумевает под компьютерной этикой конкретные правила и принципы, которых следует придерживаться лицам, использующим компьютерную технику, занимающимся разработкой программного обеспечения и непосредственно самой техники и применяемых в ней решений.

Учитывая, что на сегодняшний день компьютеры крайне глубоко проникли в жизнь человеческого общества, необходимо понимать, что компьютерная этика является жизненно необходимым элементом при использовании соответствующей информационной техники и разработанных для нее технологических решений. В рамках компьютерной этики рассматриваются самые разнообразные аспекты взаимодействия человеческого общества и компьютерной техники, например:

Правила разработки компьютерного обеспечения. Техника оставалась бы всего лишь набором деталей без программного обеспечения и алгоритмов, решающих какие-либо задачи. Поэтому во многом компьютерная этика рассматривает именно процесс разработки различных новых программ и работы над существующими программными решениями.
Порядок работы с компьютерами. Ряд принципов компьютерной этики применимы и к повседневному использованию компьютерной техники, поэтому с ними будет полезно ознакомиться каждому человеку, чья профессиональная деятельность так или иначе связана с применением компьютеров. А учитывая, что сейчас компьютер есть практически у каждого человека, то не лишним будет ознакомиться с задачами и принципами компьютерной этики и людям, для которых использование техники даже не является рабочей задачей.
Сфера использования компьютеров. Компьютерная этика также рассматривает принципиальные вопросы применения компьютерной техники в тех или иных сферах деятельности и устанавливает определенные ограничения, чтобы обеспечить соблюдение базовых принципов общественной морали.
Принципы разработки новой техники и технологий. В некоторых аспектах компьютерная этика также рассматривает сами принципы разработки компьютерной техники и тоже очерчивает определенные граничные линии, за которые не следует переступать в желании улучшить существующую технику. Кроме этого, этика также рассматривает и вопросы взаимодействия разработчиков и исследователей в сфере компьютерных технологий.

Обратите внимание — компьютерная этика является актуальной не только по отношению непосредственно к персональным компьютерам или ноутбукам. Следует помнить, что каждый современный смартфон — это по своей сути полноценный компьютер, техническим характеристикам которого могла бы позавидовать любая настольная техника всего десять-пятнадцать лет назад.

Наконец, необходимо понимать, что компьютерная этика не является целиком стабильным понятием и изменяется — точно так же, как изменяются нравственные и моральные ориентиры самого человеческого общества. Более того, принципы компьютерной этики, ее правила и нормативы во многом зависят и от локальных этических норм и правил, адаптируясь к особенностям культуры и морали различных стран и народов.

Зачем нужна компьютерная этика

Чтобы лучше понимать принципы и методы использования и применения компьютерной этики, необходимо осознавать, зачем же она необходима в современном обществе, и в чем именно может помочь следование установленным этическим нормам и правилам. Так, компьютерная этика призвана решать следующие важные и актуальные как для человечества в целом, так и для отдельных пользователей компьютерной техники задачи:

Виды компьютерной этики

Учитывая крайне большую ширину, сфера применения различной компьютерной техники в современном обществе, сама по себе компьютерная этика уже сейчас подразделяется на несколько отдельных направлений в вопросах применения специфических этических норм и моральных принципов. В этом можно выделить ее сходство юридической этикой, которая также подразделяется на судебную этику, адвокатскую этику, этику прокурора и другие специфические виды этических норм. К основным направлениям, в которых осуществляется спецификация компьютерной этики можно отнести следующие сферы деятельности:

Блогерская этика. Современное общество создало отдельный класс специалистов — блогеры. Это люди, которые фактически во многом являются журналистами, однако ведут свою деятельность независимо и не придерживаясь журналистских стандартов. В то же время сейчас среди блогерского сообщества уже формируются отдельные этические нормы и принципы взаимодействия — как локальные для определенных порталов, так и глобальные, для всей блогосферы в целом.
Киберэтика. Вопросы, связанные с разработкой нейронных сетей и технологическим прогрессом в сфере искусственного интеллекта во многом актуальны для современного сообщества, которое хочет предотвратить возможные риски, связанные с развитием технологий. Так, этика кибернетики во многом специализируется на разработке концептуальных решений будущих проблем, связанных с искусственным интеллектом и его влиянием на человечество.
Хакерская этика. Сообщество хакеров — специалистов по взлому и информационной безопасности, за время своего существования также выработало определенные внутренние этические нормы и принципы, которые могут во многом противоречить общественной морали и базовым принципам компьютерной этики в целом. Однако, такие нормы все равно существуют и помогают хакерскому сообществу развиваться, в том числе и в положительном для человечества направлении.
Этика социальных сетей. Сейчас социальные сети являются одним из наиболее популярных компьютерных продуктов, которым пользуются миллиарды людей по всему миру. Именно поэтому в рамках работы как самих социальных сетей, так и взаимодействия внутри них существуют свои этические и моральные принципы.

Основные принципы компьютерной этики

Как уже было упомянуто ранее, в зависимости от конкретной страны или конкретного сообщества, компьютерная этика может серьезно изменяться и отличаться. Однако есть базовые этические принципы, которые характерны для большинства сфер деятельности, в которых применяется компьютерная техника. К подобным принципам компьютерной этики можно отнести следующие нормы и правила, которых рекомендуется придерживаться разработчикам и простым пользователям:

Нормативы, регулирующие компьютерное право и компьютерную этику

Первым нормативным документом, который оказал значительное влияние на формирование компьютерной этики, как отдельной сферы этики, стал Кодекс справедливого использования информации, введенный в США Министерством здравоохранения и социальных служб. Базовые положения этого кодекса касались в первую очередь хранения и обработки персональных данных, однако стали базой для дальнейшего функционирования всей международной системы компьютерной этики.

С развитием мирового сообщества возникали и иные этические кодексы, которые регулировали порядок обращения с компьютерами. В основном, большая часть таких документов являются абсолютно неформальными кодексами, обязательность исполнения которых не подкреплена законодательными нормативами. В то же время, учитывая темпы компьютеризации, во многих странах мира принимаются как отдельные этические кодексы, касающиеся обращения с компьютерной техникой, так и предпринимаются действия по закреплению нормативов компьютерной этики в качестве общих императивных постулатов законодательства.

Также, отдельные меры, регулирующие вопросы компьютерной этики часто устанавливаются и на локальном уровне. Например, это может быть сетевой этикет определенных интернет-сообществ. Или же — принципы корпоративной этики при обращении с компьютерной техникой на каком-либо отдельном предприятии.

Компьютерная этика представляет собой область междисциплинарного исследования и включает рассмотрение технических, моральных, юридических, социальных, политических и философских вопросов. Проблемы, анализируемые в ней, условно можно разделить на несколько классов: 1) проблемы, связанные с разработкой моральных кодексов для компьютерных профессионалов и простых пользователей, чья работа связана с использованием компьютерной техники; 2) проблемы защиты прав собственности, авторских прав, права на личную жизнь и свободу слова применительно к области информационных технологий; 3) группа проблем, связанных с появлением компьютерных преступлений, определением статуса, то есть преимущественно правовые проблемы.

Содержание

Кодекс компьютерной этики

Наиболее яркое свое воплощение компьютерная этика получила в области разработки моральных кодексов. Весьма показательно отношение к рассматриваемой проблеме в США, где первый кодекс компьютерной этики был разработан в 1979 году. Принятие кодекса было продиктовано пониманием того, что инженеры, ученые и технологи результатами своей деятельности определяют качество и условия жизни всех людей в информационном обществе. Поэтому в преамбуле кодекса подчеркивается жизненно важная необходимость соблюдения всех норм этики при разработке и эксплуатации средств информационных технологий. Впоследствии были разработаны и приняты кодексы во многих других организациях США, связанных со сферой информационных технологий, таких как «Ассоциация разработчиков компьютерных технологий» (ACM), «Ассоциация менеджеров информационных технологий» (DPMA), «Ассоциация пользователей информационных технологий в США» (ITAA), «Ассоциация сертифицированных компьютерных профессионалов» (ICCP).

На основе этических стандартов, используемых в кодексах, «Международная федерация по информационным технологиям» (IFIP) рекомендовала принять кодексы компьютерной этики национальным организациям других стран с учетом местных культурных и этических традиций. Содержание отдельных кодексов отличается друг от друга, но в их основе лежит некоторый инвариантный набор моральных установок, которые условно могут быть сведены к следующим:

1) не использовать компьютер с целью повредить другим людям;

2) не создавать помех и не вмешиваться в работу других пользователей компьютерных сетей;

3) не пользоваться файлами, не предназначенными для свободного использования;

4) не использовать компьютер для воровства;

5) не использовать компьютер для распространения ложной информации;

6) не использовать ворованное программное обеспечение;

7) не присваивать чужую интеллектуальную собственность;

8) не использовать компьютерное оборудование или сетевые ресурсы без разрешения или соответствующей компенсации;

9) думать о возможных общественных последствиях программ, которые Вы пишете, или систем, которые Вы разрабатываете;

10) использовать компьютер с самоограничениями, которые показывают Вашу предупредительность и уважение к другим людям.

Принципы, разработанные в рамках компьютерной этики

Блогерская этика

«Хакерская этика»

Насчитывается огромное количество определений понятия «хакер». Эрик Рэймонд, один из авторов, развивающих и пропагандирующих это направление в этике, в своем «Новом словаре хакера» приводит восемь определений, основные из которых следующие:

1) программист, которому изучение тонких и не очевидных возможностей системы доставляет огромное удовольствие, в отличие от большинства программистов, которые в своей работе обходятся минимально необходимыми знаниями;

2) программист-фанатик или просто программист, которому практическое программирование доставляет несравненно большее удовольствие, нежели теоретизирования на около компьютерные темы;

3) эксперт или фанат в любой области, например, «астрономический хакер» или «хакер-ботаник»;

4) человек, которому решение сложных задач доставляет огромное наслаждение; тот, кто любит действовать в обход общепринятых правил и ограничений.

Первые хакеры и сам феномен хакерства как определенного образа жизни и поведения, появились в США в 60-е гг. в стенах MIT (Массачусетского технологического института). Этими людьми двигало желание овладеть всеми хитростями компьютерных систем и продвинуть технологию за пределы известных возможностей. Хакерская этика представляет собой ряд правил, принципов и норм, выработанных в среде компьютерных профессионалов. Основные из них связаны, во-первых, с представлением,

По мере того как компьютеры повсеместно проникли в жизнь общества, изменилось традиционное понимание «работы» как выполнения определенных обязанностей в определенном месте и в определенное время. Работа превратилась в «инструктаж» компьютера. В компьютеризованном обществе пересматриваются и ценности, связанные с прежней концепцией работы: «общаясь», не выходя из дома с компьютерным терминалом, человек теряет постоянный контакт с людьми.

Еще шестнадцать лет назад в специальном выпуске ведущего американского журнала «Метафилософия» впервые комплексно обсуждались этические проблемы компьютерной революции, говорилось о необходимости выработки особого морально-этического подхода в условиях неслыханно быстрого развития информационно-поисковых и информационно-логических систем, т.е. о создании этического кодекса. Замещение многих видов человеческой деятельности функциями компьютеров оказывает серьезное воздействие на нравственность, политику, социальную теорию, психологию. Эти процессы и изучает новая социальная дисциплина — компьютерная этика.

В Интернете, как и в обычной жизни, приняты определенные правила общения, причем весьма специфические. Объясняется это тем, что при общении с кем-либо во Всемирной Паутине мы не видим своего собеседника, поэтому, гораздо труднее порой бывает передать ему свои чувства и эмоции. Для этого и был создан так называемый Сетевой этикет, который должен знать каждый человек, использующий Интернет в целях общения.

С каждым днем вопрос об этических нормах в Сети приобретает все большую актуальность. Ведь для того, чтобы Интернет стал поистине средством массовой коммуникации людей несомненно нужно придерживаться определенных этических норм и ценностей.

Компьютерная этика

Компьютерная этика — это пока отнюдь не определенный свод правил, а динамичное и сложное поле исследования, лежащее на грани между компьютерными технологиями и нормативной этикой и зависящее от них.

В самом общем смысле компьютерная этика занимается исследованием поведения людей, использующих компьютер, на основе чего вырабатываются соответствующие нравственные предписания и своего рода этикетные нормы. Само употребление выражения "компьютерная этика" весьма условно, эта дисциплина очень молода, она появилась на рубеже 70-х — 80-х гг. XX столетия, и наряду с ней употребляются такие термины, как "информационная этика", "киберэтика".

Компьютерная этика представляет собой область междисциплинарного исследования и включает рассмотрение технических, моральных, юридических, социальных, политических и философских вопросов. Проблемы, анализируемые в ней, условно можно разделить на несколько классов: 1) проблемы, связанные с разработкой моральных кодексов для компьютерных профессионалов и простых пользователей, чья работа связана с использованием компьютерной техники; 2) проблемы защиты прав собственности, авторских прав, права на личную жизнь и свободу слова применительно к области информационных технологий; 3) группа проблем, связанных с появлением компьютерных преступлений, определением статуса, т.е. преимущественно правовые проблемы.

Кодекс компьютерной этики

Наиболее яркое свое воплощение компьютерная этика получила в области разработки моральных кодексов. Весьма показательно отношение к рассматриваемой проблеме в США, где первый кодекс компьютерной этики был разработан в 1979 году. Принятие кодекса было продиктовано пониманием того, что инженеры, ученые и технологи результатами своей деятельности определяют качество и условия жизни всех людей в информационном обществе. Поэтому в преамбуле кодекса подчеркивается жизненно важная необходимость соблюдения всех норм этики при разработке и эксплуатации средств информационных технологий. Впоследствии были разработаны и приняты кодексы во многих других организациях США, связанных со сферой информационных технологий, таких как "Ассоциация разработчиков компьютерных технологий" (ACM), "Ассоциация менеджеров информационных технологий" (DPMA), "Ассоциация пользователей информационных технологий в США" (ITAA), "Ассоциация сертифицированных компьютерных профессионалов" (ICCP).

На основе этических стандартов, используемых в кодексах, "Международная федерация по информационным технологиям" (IFIP) рекомендовала принять кодексы компьютерной этики национальным организациям других стран с учетом местных культурных и этических традиций. Содержание отдельных кодексов отличается друг от друга, но в их основе лежит некоторый инвариантный набор моральных установок, которые условно могут быть сведены к следующим:

1) не использовать компьютер с целью повредить другим людям;

2) не создавать помех и не вмешиваться в работу других пользователей компьютерных сетей;

3) не пользоваться файлами, не предназначенными для свободного использования;

4) не использовать компьютер для воровства;

5) не использовать компьютер для распространения ложной информации;

6) не использовать ворованное программное обеспечение;

7) не присваивать чужую интеллектуальную собственность;

9) думать о возможных общественных последствиях программ, которые Вы пишите или систем, которые Вы разрабатываете;

Принципы, разработанные в рамках компьютерной этики.

1) privacy (тайна частной жизни) - право человека на автономию и свободу в частной жизни, право на защиту от вторжения в нее органов власти и других людей;

2) accuracy (точность) - соблюдение норм, связанных с точным выполнением инструкций по эксплуатации систем и обработке информации, честным и социально-ответственным отношением к своим обязанностям;

3) property (частная собственность) - неприкосновенность частной собственности - основа имущественного порядка в экономике. Следование этому принципу означает соблюдение права собственности на информацию и норм авторского права;

4) accessibility (доступность) - право граждан на информацию, ее доступность в любое время и в любом месте.

Сетевой этикет

Сетикет, нетикет— правила поведения, общения в Сети, традиции и культура интернет-сообщества, которых придерживается большинство. Это понятие появилось в середине 80-х годов XX века.

Правила нетикета не являются всеобщими и жестко установленными — каждое сетевое сообщество формирует свои правила. Обычно правила записаны, и даже оформляются в виде формального устава, а иногда и просто в виде списка. В других случаях существуют лишь в умах и словах модераторов, а иногда и просто «старожилов» сообщества и поддерживаются на основании их личного авторитета.

Чаще всего под явным нарушением этикета понимают оскорбления и переход на личности, злонамеренный отход от темы, рекламу и саморекламу в не предназначенных для этого местах. Также вполне вероятно нарушением нетикета могут оказаться клевета и иная злонамеренная дезинформация (обман) или плагиат.

В целом положения (рекомендации) нетикета можно разделить на три категории:

Психологические, эмоциональные — обращаться на Ты или на Вы, использовать ли смайлики и в каком количестве, указывать ли код города в телефонах, поддерживать новичков или игнорировать их вопросы.

Административные — правила именования (заголовки) тем, правила цитирования, допустимость рекламы, допустимость флейма, собственно необходимость придерживаться тематики сообщества…

Люди, привыкшие к правилам одного сетевого сообщества, могут невольно нарушить правила другого. Поэтому практически во всех интернет-сообществах требуют ознакомиться с правилами и выразить своё формальное согласие на их соблюдение. Также есть общие правила, соблюдение которых является хорошим тоном в большинстве дискуссий.

Перед тем, как становиться активным участником сетевого сообщества, желательно в течение определенного времени посещать его, оставляя минимум собственных комментариев, чтобы привыкнуть к правилам сообщества, а также узнать о некоторых его традициях.

Прежде чем задать вопрос, не поленитесь воспользоваться поиском — быть может, этот вопрос уже задавали, быть может, уже на него дан ответ. На поднятие старой темы реакция обычно благосклонная, в то время как возобновление темы сначала обычно не приветствуется.

Старайтесь делать свои записи удобочитаемыми. Например, не стоит писать на транслите или заменять буквы похожими символами. Естественно, если запись трудно прочитать, ее скорее всего либо проигнорируют, либо отнесутся к ней отрицательно. Несоблюдение языковых норм также нередко приводит к предвзятому отношению.

Интернет развивается, появляется всё больше пользователей. И, начиная с общения, заканчивая заработок в Интернете, люди допускают ошибки, на первый взгляд незаметные. Ошибки появляются из-за незнания сетевого этикета. Так можно доставить неприятности не только собеседникам, но и себе лично. Для избежания ошибок в Сети следует знать некоторые понятия сетевого этикета.

Флейм — это процесс, который иногда возникает при общении в интернете, «словесная война». Это неожиданно возникшее бурное обсуждение, в процессе которого участники обычно забывают о первоначальной теме, переходят на личности и не могут остановиться. Обычно флеймы возникают спонтанно, развиваются очень быстро и заканчиваются лишь при вмешательстве модератора или когда все участники окончательно устанут. Это тот самый вид спора, в котором истина не рождается — по окончании флейма все спорщики чувствуют себя неудобно и никакого конструктивного результата флейм не дает.

Если случилось так, что вы стали невольным участником флейма, наиболее разумное поведение в этой ситуации — один раз максимально четко, конструктивно и доброжелательно выразить свою позицию, и больше в дискуссию не вступать. Тогда она, скорее всего, затухнет сама.

Электронная почта

Больше всего правила виртуального этикета касаются электронной почты. Для этого необходимо:

- регулярно проверять содержимое своего почтового ящика;

-безотлагательно отвечать на каждое письмо, адресованное непосредственно вам. Соблюдать лаконичность, иногда вполне достаточно нескольких слов. Отсутствие ответа равносильно тому, как если бы вы проигнорировали приветствие, отказались бы пожать протянутую руку или повернулись бы спиной к своему собеседнику;

-в электронном послании всегда надо указывать его основную тему. Это правило появилось не сразу, оно выработалось постепенно, явившись результатом определенных практических требований. Необходимо учесть, письма, не снабженные четко сформулированной темой, могут быть проигнорированы;

- высылая письмо незнакомому адресату, пользуйтесь обычным текстовым кодом, иначе не исключено, что он просто не сможет его получить, и услуги связи будут стоить дешевле;

-в конце каждого электронного послания обязательно следует указать свое имя, фамилию, должность и место работы, ваш номер электронной почты, а также телефон и обычный почтовый адрес, эти сведения не должны превышать четырех строк;

- не перегружайте электронное послание дополнительными материалами (фотографиями, рисунками и т.д.); правильно выбирайте формат текста (текстовый формат займет в сто раз меньше места, чем документ любого приложения); большой объем дополнений высылайте только с согласия или по просьбе адресата. Уточните, имеет ли его почтовый ящик ограничения на принимаемую информацию;

- послания с приложенными исполнимыми файлами, а также документы Microsoft Office могут нести компьютерные вирусы, как правило, уничтожающие содержимое компьютера адресата; для быстрого ответа на электронное послание достаточно воспользоваться кнопкой “Ответ”, чтобы получить готовое к отправлению письмо;

- отвечая на письмо, не следует повторять всю корреспонденцию целиком, достаточно воспроизвести только те ее фрагменты, на которые вы хотите сослаться, (такое цитирование вовсе не обязательно, но является определённым жестом вежливости по отношению к вашему виртуальному корреспонденту, который мог и забыть суть своего послания или отдельных аргументов в дискуссии); каждое электронное послание одного корреспондента другому является частным, поэтому каждым пользователем должно соблюдаться правило на тайну переписки, (т.е прежде чем передать его содержание другим лицам, необходимо получить разрешение автора);

- на корреспонденцию, не адресованную лично вам и не от автора послания, отвечать не следует, чаще всего вам навязывается ненужная коммерческая информация.

Стремительное развитие технологии искусственного интеллекта и его повсеместное внедрение в различные сферы общества обостряют определенные вопросы в отношении применения данной технологии. При этом понимание того, что развитие искусственного интеллекта и его внедрение сопряжено с необходимостью адаптации нормативного регулирования было обозначено уже несколько лет назад – так, выработка этических норм заявлена одним из пунктов программы "Национальная стратегия развития искусственного интеллекта на период до 2030 года" (п. 48 Указа Президента РФ от 10 октября 2019 г. № 490 "О развитии искусственного интеллекта в Российской Федерации"; далее – Указа Президента РФ № 480). При этом в документе отмечено, что в целях аналитической поддержки стратегии проводятся научные исследования, направленные на прогнозирование этических аспектов использования технологий искусственного интеллекта – результаты таких исследований должны учитываться при принятии управленческих решений (п. 57 Указа Президента РФ № 480).

Другим важным документом, регламентирующим необходимость урегулирования этических аспектов применения искусственного интеллекта, стала "Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники на период до 2024 г.". В подзаконном акте расширение применения инструментов регулирования, а также формирование кодексов этических правил разработки, внедрения и применения технологий искусственного интеллекта определяется как одна из ключевых целей Концепции (Распоряжение Правительства РФ от 19 августа 2020 г. № 2129-р).

Для решения соответствующей задачи в рамках исполнения Указа президента было принято решение разработать Национальный кодекс этики в сфере искусственного интеллекта (далее – кодекс), который подготовлен совместно Аналитическим центром при Правительстве РФ, Министерством экономики и развития РФ и Альянсом в сфере искусственного интеллекта, при участии представителей государства и научного сообщества. Последний представляет собой объединение ведущих технологических компаний для внедрения искусственного интеллекта в различные сферы общественной жизни. На момент написания материала в альянсе состояли Яндекс, МТС, Mail.ru Group, Сбербанк, Газпром и Российский фонд прямых инвестиций 1 . В июле Правительство РФ утвердило правила предоставления субсидии для Аналитического центра в целях поддержки исследовательских центров в сфере искусственного интеллекта, в том числе в области этических аспектов применения искусственного интеллекта" (Постановление Правительства РФ от 5 июля 2021 г. № 1120). Проект кодекса этики для искусственного интеллекта экспертное сообщество обсуждает на различных площадках, в том числе, на государственном уровне.

Что такое искусственный интеллект?

Понятие искусственного интеллекта определено в Национальной стратегии развития искусственного интеллекта на период до 2030 года как комплекс технологических решений, позволяющий имитировать когнитивные функции человека и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека (п. 5 Указа Президента РФ № 480). К таким функциям относятся, например, самообучение и поиск решений без заранее заданного алгоритма. В данной стратегии в качестве технологий, которые основаны на использовании искусственного интеллекта, приводятся в пример компьютерное зрение, обработка естественного языка, распознавания и синтез речи, интеллектуальная поддержка принятия решений (п. 5 Указа Президента РФ № 480).

Зачем нужен кодекс этики в сфере искусственного интеллекта?

Как заметил Председатель совета директоров некоммерческого фонда "Центр содействия законотворчеству", д. ю. н., профессор Вадим Виноградов в ходе круглого стола на площадке Общественной палаты РФ, информационные технологии, применяющиеся на данный момент, относятся к слабому искусственному интеллекту. Однако, скорость его эволюции позволяет судить о том, что процесс перехода к сильному искусственному интеллекту возможен в ближайшем будущем. При этом сложно представить в полной мере, на какие области будет распространено его влияние – однако рамки его применения будут распространяться на сложные для этического анализа сферы, например, военную. В такой ситуации разработка определенных этических норм по созданию и использованию искусственного интеллекта выступает необходимостью, уверен эксперт.

Как отмечает один из разработчиков кодекса, директор по развитию технологий искусственного интеллекта ООО "Яндекс"Александр Крайнов, в отношении искусственного интеллекта распространено большое количество заблуждений, причем некоторые из них переоценивают технологию, другие – недооценивают. Основная причина заключается в том, что у человека, не обладающим специальными знаниями в области информационных технологий, восприятие принципа функционирования искусственного интеллекта формируется на основании массовой культуры, СМИ и рассказов со стороны представителей ИТ-компаний, которые в некоторых случаях преукрашают свою деятельность. Такое восприятие зачастую создает недоверие к искусственному интеллекту, формируя ложные убеждения об опасности использования технологии. Эксперт объяснил, что искусственный интеллект представляет собой набор математических методов и решений на их базе, где каждое конкретное решение применяется для конкретной узкой задачи. Количество задач, которые решаются данным способом, стремительно растет. При этом заложенная в технологии искусственного интеллекта задача распространяется на большое количество людей, в связи с чем масштаб потенциальной ошибки в значительной степени увеличивается. Этические нормы выступают неким сдерживающим механизмом для применения искусственного интеллекта, который выступает "мягким" регулированием в отсутствии законодательного аппарата, заключил Александр Крайнов. При этом разработанный документ не является законом, его формулировки норм носят рекомендательный характер. Кодекс этики искусственного интеллекта также должен помочь сомневающимся людям обозначить основные принципы внедрения и использования технологии в повседневной жизни.

Ранее упомянутая Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года содержит упоминание о том, что развитие технологий искусственного интеллекта должно основываться "на базовых этических нормах" (Распоряжение Правительства РФ от 19 августа 2020 г. № 2129-р). Документ относит к ним:

приоритет благополучия и безопасности человека, защиты его основополагающих прав и свобод;
подконтрольность человеку;
проектируемое соответствие закону (в том числе, требованиям безопасности);
недопущения противоправной манипуляции.

При этом приведенные примеры базовых этических норм носят расплывчатые формулировки, которые могут затруднять понимание, каким образом следует внедрять искусственный интеллект с соблюдением этических требований. Концепция в значительной степени конкретизирует принципы, что может поспособствовать четче обозначить механизм внедрения принципов и их распространение на деятельность ИТ-компаний.

Как отметил управляющий директор центра регулирования искусственного интеллекта Сбербанка Андрей Незнамов, несмотря на наличие других подобных кодексов в других странах – эксперт продемонстрировал примеры более 10 стран – представленный проект является уникальным. Авторы учитывали практические кейсы использования искусственного интеллекта на практике, которые можно использовать как подсказку для акторов в сфере искусственного интеллекта.

Регулирование этических проблем искусственного интеллекта в мире

Внушительное число стран предпринимали попытки выработать, систематизировать, упорядочить этические нормы по использованию технологий искусственного интеллекта. Андрей Незнамов представил список наиболее распространенных принципов искусственного интеллекта, принятых в мире. Эксперт выделил следующие:

Справедливость (включая недискриминацию, непредвзятость, равенство и т. д.);
Прозрачность (например, прозрачность использования данных, дата сетов, обработки информации);
Ответственность (контролируемость, подотчетность, возмещение вреда, ответственное отношение);
Безопасность – невозможность причинения умышленного вреда;
Конфиденциальность (в том числе, неприкосновенность частной жизни и защиту персональных данных).

Вначале соответствующие идеи нашли свое отражение в частных декларациях – эксперт приводит в качестве примера крупного документа Азиломарские принципы искусственного интеллекта, разработанные и принятые в ходе конференции разработчиков в 2017 году 2 . В последствие такие принципы начали находить свое отражение в качестве корпоративных норм различных компаний, деятельность которых сопряжена с разработкой искусственного интеллекта. Так, например, ряд крупных ИТ-компаний разработали собственные кодексы по использованию искусственного интеллекта, в которых обозначили свою позицию по вопросам этической составляющей такой эксплуатации – подобные документы есть, например, у IBM, Bosch, Сбера, отметил Вадим Виноградов. По статистике Андрея Незнамова, на данный момент корпоративные нормы в сфере искусственного интеллекта имеют около 35 мировых компаний-разработчиков. Несмотря на то, что мораль и нравственность представляют собой регулятор, отличный от нормативных актов, стал появляться ряд национальных инициатив по урегулированию этических норм искусственного интеллекта. И, наконец, существуют наднациональные инициативы, яркий пример – проект рекомендаций по этике искусственного интеллекта ЮНЕСКО.

Ключевые положения кодекса

Планируется, что кодекс будет включать четыре раздела:

Общие положения – назначение и цели, нормативные основания и правовая природа кодекса, круг действия и термины;
Общие этические принципы/ценности поведения акторов искусственного интеллекта;
Этические стандарты поведения акторов в сфере искусственного интеллекта;
Механизмы реализации кодекса.

Согласно положениям документа, к общим этическим принципам относится человекоцентричный и гуманистический подход – технологии искусственного интеллекта должны использоваться во благо человека. Также, согласно Концепции, к таким принципам относится риск-ориентированный подход, согласно которому уровень внимания к этическим вопросом сопоставим с оценкой уровня потенциального риска от внедрения и использования искусственного интеллекта. Важную часть занимает принцип предосторожности, в соответствии с которым актором искусственного интеллекта должны быть предприняты меры по предотвращению вреда от их деятельности. Не последнее по важности место занимает принцип ответственного отношения к вопросам влияния систем искусственного интеллекта на общество в целом и на граждан в частности.

В документе отдельно прописаны конкретные точечные нормы по этическим стандартам поведения акторов в сфере искусственного интеллекта, среди которых:

действовать ответственно и добросовестно;
соблюдать интересы общества и граждан – права и свободы человека, уважение автономии воли человека;
проявлять профессионализм и компетентность, включая обеспечение стимулирования развития искусственного интеллекта, сотрудничество разработчиков, ориентируясь при этом на положения законодательства РФ;
содействовать доверию общества к технологиям искусственного интеллекта в интересах устойчивого развития, в том числе предоставляя пользователю достоверную информацию о допустимых областях применения искусственного интеллекта.

Примечательно, что в документе есть положение об обязанности акторов принимать меры в целях обеспечения недискриминации и непричинения вреда. При этом, согласно положениям документа, не допускается передача полномочий ответственного нравственного выбора системам искусственного интеллекта. Таким образом, принятие важных морально-этических решений доверить искусственному интеллекту экспертное сообщество не готово.

Как отмечает Андрей Незнамов, авторы кодекса предусмотрели все наиболее прогрессивные механизмы реализации кодекса. Так, рекомендуется проводить оценку рисков применения систем искусственного интеллекта. Предлагается также использовать институт уполномоченных пор этике искусственного интеллекта или формировать коллегиальные отраслевые органы (например, комиссию по этике). Важным механизмом составители кодекса считают создание свода наилучших практик решения возникающих этических вопросов при эксплуатации систем искусственного интеллекта. При этом авторы отдельно отметили, что положения кодекса должны быть пересмотрены с учетом развития технологий искусственного интеллекта.

Обобщая положения кодекса до краткой версии, авторы представили следующий список принципов этики искусственного интеллекта:

Основной приоритет развития технологии искусственного интеллекта – защита интересов людей в целом и человека в частности;
Осознание ответственность при создании и эксплуатации искусственного интеллекта, учитывая масштаб применения технологии и ее значимости;
Ответственность за последствия применения искусственного интеллекта всегда лежит на человеке;
Технологии искусственного интеллекта следует внедрять там, где это принесет пользу людям;
Интересы совершенствования технологий искусственного интеллекта выше интересов конкуренции;
Прозрачность и правдивость в информировании о рисках, успехах и неудачах уровня развития искусственного интеллекта;
Технологии искусственного интеллекта и этика искусственного интеллекта находятся вне границ;
Принципы этики развиваются по мере развития технологий.

Предложения по совершенствованию кодекса

Одно из наиболее значимых положений, которые следует закрепить в кодексе, должно содержать предложения по устранению дефицита инфраструктуры, считает заместитель декана по научной работе факультета права НИУ ВШЭ, д. ю. н. Александр Ларичев. Несмотря на то, что этот принцип не является этическим напрямую, он может являться своеобразным руководством к действию акторов, участвующих в процессе модернизации искусственного интеллекта напрямую, уверен эксперт. Проблема в том, что у регионов России отсутствуют равные возможности технологического развития. Также эксперт считает важным отразить в положениях кодекса принцип отсутствия предвзятости по социально-технологической предвзятости. По его мнению, следует также уточнить требование о необходимости способствовать достижению цели в области устойчивого развития, добавив положения о процессе осуществления достижения такой цели.

Как отметил Александр Крайнов, инфраструктура для искусственного интеллекта создается не территориально, при этом вопросы инфраструктуры регулируют другие документы, в то время, как одной из целью кодекса было закрепление норм, которые не были освещены в других документах.

Эксперт в том числе заметил, что в рекомендациях ЮНЕСКО право человека знать, какие решения принимаются с использованием алгоритмов искусственного интеллекта, в то время как в положениях кодекса это право носит формулировку разумно-применимого. С коллегой согласен Александр Журавлев, председатель Комиссии по правовому обеспечению цифровой экономики Московского отделения Ассоциации юристов России, который назвал вопрос прозрачности деятельности алгоритма искусственного интеллекта принципиально важным. Он считает, что в кодекс важно заложить условие о том, что искусственный интеллект должен выступать в качестве помощника, поддержкой в принятии решений. Это относится к ключевым отраслям, где вопросы морально-этического выбора стоят наиболее остро – например, финансовая сфера, судопроизводство (в особенности, уголовное), трудоустройство. Более того, следует добавить порядок обжалования решений, когда у человека возникает сомнение в отношении того, принимала ли система решение по важному вопросу самостоятельно или нет.

При этом Александр Крайнов возразил: соответствующее положение кодекс содержит – обеспечить возможность отмены человеком или предотвращения принятия юридически значимых решений. При этом на практике человек при постоянном взаимодействии с алгоритмом искусственного интеллекта склонен в конечном счета соглашаться с результатами анализа системы, в связи с чем включение предлагаемого экспертами положения на практике проблему не решит.

По мнению Вадима Виноградова, одним из основных факторов, который следует учитывать при разработке кодекса этики искусственного интеллекта, это четкая формулировка понятий и норм. Эксперт считает, что в тексте такого документа следует избегать расплывчатых словесных конструкций – так, например, сохраняется возможность множественной трактовки фраз "сохранение нравственных и духовных ценностей" и "общепринятые этические нормы". Он также считает, что кодекс должен быть составлен с использованием упрощенного стиля, так как конечный адресат документа не будет иметь специальных познаний в области юриспруденции.

Заведующий лабораторией анализа данных правоприменения ВШЭ Григорий Красноженов предложил уточнить, для какого типа искусственного интеллекта разрабатывается кодекс. Эксперт считает, что так, как на текущем уровне технологического развития документ рассчитан на системы искусственного интеллекта с некоторой степенью автономности. Также, по мнению эксперта, в кодексе следует подчеркнуть, что акторами являются люди, а не машины, а также уточнить их перечень.

Михаил Якушев, заместитель директора Института права цифровой среды факультета права НИУ ВШЭ, считает, что так как документ носит рекомендательный характер, его стиль должен соответствовать заданной формуле. Так, например, эксперт считает, что включение норм об ответственности за нарушение принципов этики искусственного интеллекта, неуместны. Эксперт также предложил не ограничивать распространение кодекса исключительно на гражданскую сферу, а относить его положения также к военной сфере.

***
Необходимость в создании Национального проекта кодекса в сфере регулирования этических проблем разработки и эксплуатации искусственного интеллекта назрела давно. Эксперты в области юриспруденции и искусственного интеллекта провели масштабную работу по выработке кодекса. Как неоднократно подчеркивают авторы, кодекс не будет носить общеобязательный характер, выступая скорее примером "мягкого" права, когда нормы представляют собой рекомендации для государственных органов и компаний, использующих системы искусственного интеллекта.

На момент написания материала кодекс этики не был опубликован, содержание документа в его текущем виде предоставлены для оценки экспертам и представителям государственной власти. По словам авторов документа, по предварительным данным кодекс будет рассмотрен на уровне Правительства РФ к концу октября-началу ноября текущего года.

1 Информация с сайта Альянса в сфере искусственного интеллекта.
2 С текстом документа и материалами к нему можно ознакомиться на сайте проекта "РОБОПРАВО", исследовательского центра проблем регулирования робототехники и искусственного интеллекта.

Читайте также: