Россия будет контролировать создание «сверхразума»

Ответственность за последствия использования систем искусственного интеллекта должна сохраняться за человеком, а не за машиной / Ivan Alvarado  / Reuters Церемония подписания кодекса этики в сфере искусственного интеллекта (КЭСИИ) намечена на 26 октября в рамках первого международного форума «Этика искусственного интеллекта: начало доверия». Планируется участие чиновников администрации президента РФ и федерального правительства, а также представителей компаний – участников альянса в сфере ИИ: «Газпром нефти», МТС, Российского фонда прямых инвестиций, Сбербанка, «Яндекса», интернет-холдинга VK (бывшая Mail.ru Group). Идею составления морально-нравственного кодекса в сфере ИИ подал президент России Владимир Путин, выступая 4 декабря 2020 г. на пленарном заседании международной онлайн-конференции AI Journey. «Кроме различных административных, законодательных ограничений, мне кажется, нужно подумать о том, чтобы выработать внутренний для среды морально-нравственный кодекс работы [ИИ]. Во многих средах он применяется», – сказал Путин (цитата по ТАСС).  В разработке кодекса участвовали компании альянса, представители Аналитического центра при правительстве РФ, Минэкономразвития России, экспертного и академического сообщества.  В сентябре прошли обсуждения документа в Общественной палате и Совете Федерации. В результате поступило «очень много предложений и в проект кодекса вносились многочисленные правки», рассказывает один из собеседников «Ведомостей». Некоторые из них сохранились в опубликованном на сайте альянса ранее тексте. Например, исходная формулировка одного из принципов использования искусственного интеллекта гласила, что технологии ИИ необходимо внедрять там, где это принесет пользу людям, и была переформулирована «Яндексом» в следующем виде: «Технологии ИИ нужно применять по назначению и внедрять там, где это принесет пользу людям». Представитель пресс-службы «Яндекса» назвал такую правку редакторской, а не смысловой.  Рекомендации кодекса рассчитаны на системы искусственного интеллекта, применяемые исключительно в гражданских, невоенных целях, указано в тексте. Участниками отношений в сфере искусственного интеллекта, согласно кодексу, являются отечественные и иностранные разработчики, заказчики, поставщики, операторы систем искусственного интеллекта, регуляторы, а также другие лица, которые могут повлиять на искусственный интеллект. Для реализации положений кодекса будет создана комиссия, в которую войдут представители бизнес-сообщества, науки и госорганов. Кроме того, компании, подписавшие кодекс, должны будут назначить среди своих сотрудников уполномоченных по этике искусственного интеллекта, которые будут контролировать исполнение компанией положений кодекса. А для разбора наиболее спорных вопросов компании будут собирать внутреннюю комиссию по этике в сфере искусственного интеллекта. Согласно кодексу, бизнес будет вести свод наилучших и наихудших практик решения этических вопросов, возникающих в жизненном цикле искусственного интеллекта. Доступ к этому своду будет публичным. Кодекс также рекомендует бизнесу добросовестно информировать своих пользователей об их взаимодействии с системами искусственного интеллекта, когда это затрагивает вопросы прав человека и критических сфер его жизни, и обеспечивать возможность прекратить такое взаимодействие по желанию человека. Ответственность за последствия использования систем искусственного интеллекта должна сохраняться за человеком, а не за машиной, подчеркивается в документе.  Кодекс содержит рекомендацию компаниям сотрудничать между собой по вопросу выявления и проверки информации о способах создания универсальных систем искусственного интеллекта и предотвращения угроз, которые они несут. Такие системы также называют «сильными» ИИ или Artificial General Intelligence (AGI). Вопрос применения технологий сильного ИИ должен находиться под контролем государства, отмечается в кодексе. «Сильный искусственный интеллект – это концепция, которая условно предполагает создание своего рода сверхразума, – пояснил «Ведомостям» один из разработчиков кодекса. – Это универсальный искусственный интеллект, который способен решать разнообразные задачи и бесконечно самосовершенствуется без участия человека. Многие считают, что до него еще лет сто, а кто-то вообще не верит в возможность его создания». Упоминание сильного ИИ было, видимо, внесено в кодекс на случай его создания в России, предположил он.  Александр Ханин, руководитель компании МТС AI, сообщил «Ведомостям», что подписание кодекса этики ИИ – «естественный шаг» для компании. Выработка правовых и этических норм для использования ИИ потребовалась для защиты основных прав и свобод человека после того, как в мире появилась перспектива создания супероружия с искусственным интеллектом и возможность мошенничества с применением ИИ. «[Подписание кодекса этики в сфере ИИ] никак не повлияет на бизнес, потому что у нас изначально бизнес гражданского применения и никак не нарушает права и свободы человека», – сказал Ханин.
Решение Федеральной службы по надзору в сфере связи, информационных технологий и массовых коммуникаций (Роскомнадзор) от 27 ноября 2020 г. ЭЛ № ФС 77-79546

Учредитель: АО «Бизнес Ньюс Медиа»

И.о. главного редактора: Казьмина Ирина Сергеевна

Рекламно-информационное приложение к газете «Ведомости». Зарегистрировано Федеральной службой по надзору в сфере связи, информационных технологий и массовых коммуникаций (Роскомнадзор) за номером ПИ № ФС 77 – 77720 от 17 января 2020 г.

Любое использование материалов допускается только при соблюдении
правил перепечатки и при наличии гиперссылки на vedomosti.ru
Новости, аналитика, прогнозы и другие материалы, представленные на данном сайте, не являются офертой или рекомендацией к покупке или продаже каких-либо активов.

Сайт использует IP адреса, cookie и данные геолокации Пользователей сайта, условия использования содержатся в
Политике по защите персональных данных
Все права защищены © АО Бизнес Ньюс Медиа, 1999—2021

Любое использование материалов допускается только при соблюдении
правил перепечатки и при наличии гиперссылки на vedomosti.ru
Новости, аналитика, прогнозы и другие материалы, представленные на данном сайте, не являются офертой или рекомендацией к покупке или продаже каких-либо активов.

Все права защищены © АО Бизнес Ньюс Медиа, 1999—2021

Решение Федеральной службы по надзору в сфере связи, информационных технологий и массовых коммуникаций (Роскомнадзор) от 27 ноября 2020 г. ЭЛ № ФС 77-79546

Учредитель: АО «Бизнес Ньюс Медиа»

И.о. главного редактора: Казьмина Ирина Сергеевна

Рекламно-информационное приложение к газете «Ведомости». Зарегистрировано Федеральной службой по надзору в сфере связи, информационных технологий и массовых коммуникаций (Роскомнадзор) за номером ПИ № ФС 77 – 77720 от 17 января 2020 г.

Сайт использует IP адреса, cookie и данные геолокации Пользователей сайта, условия использования содержатся в
Политике по защите персональных данных

Powered by WPeMatico