Организация Объединенных Наций прилагает усилия по оказанию более непосредственного влияния на глобальную политику в отношении искусственного интеллекта, включая содействие разработке политических и технических стандартов в отношении «безопасного, надежного и заслуживающего доверия» ИИ.
В прошлом месяце всемирная организация завершила разработку планов по созданию новой экспертной группы, которая будет заниматься разработкой научных, технических и политических стандартов для новых технологий. Независимая научная группа по ИИ будет состоять из 40 международных экспертов, срок полномочий которых составит три года. Состав группы будет сформирован на основе «сбалансированного географического представительства для содействия научному пониманию» рисков и последствий.
Той же резолюцией был создан Глобальный диалог по управлению ИИ, целью которого является объединение правительств, бизнеса и экспертов для «обсуждения международного сотрудничества, обмена передовым опытом и извлеченными уроками, а также содействия открытым, прозрачным и инклюзивным дискуссиям по вопросам управления искусственным интеллектом». Первой задачей диалога является «разработка безопасного, надежного и заслуживающего доверия искусственного интеллекта».
В четверг Генеральный секретарь Антониу Гутерриш заявил, что эти действия помогут ООН перейти «от принципов к практике» и будут способствовать дальнейшему продвижению организации как глобального форума для формирования политики и стандартов в области ИИ.
Это также станет возможностью сформировать международный консенсус по ряду острых вопросов, включая энергопотребление систем искусственного интеллекта, влияние технологии на рабочую силу и наилучшие способы предотвращения ее неправомерного использования в злонамеренных целях или для репрессий в отношении граждан.
Работа ООН «дополнит существующие усилия по всему миру, включая ОЭСР, «Большую семёрку» и региональные организации, и обеспечит инклюзивную, стабильную площадку для координации усилий по управлению ИИ», — сказал он. «Короче говоря, речь идёт о создании пространства, где правительства, промышленность и гражданское общество смогут совместно продвигать общие решения».
Гутерриш прибегнул к возвышенной риторике, утверждая, что эта технология призвана стать неотъемлемой частью жизни миллиардов людей и коренным образом изменить жизнь на Земле (у специалистов по информатике и искусственному интеллекту на этот счет более неоднозначные мнения).
«Вопрос уже не в том, изменит ли ИИ наш мир — он уже изменился», — сказал Гутерриш. «Вопрос в том, будем ли мы управлять этой трансформацией вместе — или позволим ему управлять нами».
Усилия ООН по повышению безопасности, надежности и доверия к системам искусственного интеллекта предпринимаются в то время, как страны с высоким уровнем расходов и активного внедрения таких технологий, как США, Великобритания и Европа, либо перестали акцентировать внимание на этих проблемах, либо стали больше выступать за дерегулирование, чтобы помочь своим отраслям конкурировать с Китаем.
Международные эксперты в области технологий сообщили CyberScoop, что это может дать ООН или другой авторитетной организации возможность играть более активную роль в обсуждении вопросов безопасного и ответственного ИИ. Однако они также реалистично оценили ограниченность полномочий ООН, которая может выходить за рамки поощрения разумной политики.
Павлина Павова, эксперт по киберполитике Управления ООН по наркотикам и преступности в Вене (Австрия), рассказала CyberScoop, что Организация Объединенных Наций создает основу для более содержательных дискуссий по вопросам ИИ и остается «самой инклюзивной площадкой для международного диалога» по поводу этой технологии.
Однако она добавила: «Вновь созданные форматы носят консультативный характер и не имеют полномочий для принуждения, в лучшем случае играя роль укрепления доверия».
Джеймс Льюис, старший советник Центра анализа европейской политики, разделяет некоторые из этих настроений, заявляя, что усилия ООН будут иметь «ограниченное влияние». Но он также сказал, что очевидно, что индустрия ИИ «совершенно неспособна оценивать риски», и что назначение политиков, действительно заинтересованных в разработке решений, ответственными за эту динамику, может помочь противостоять этой тенденции.
Это отражает подход организаторов «Солярия киберпространства США», которые сформировали комиссию из влиятельных законодателей и политических экспертов, чтобы заручиться поддержкой конкретных предложений. Это сработало: по оценкам комиссии, 75% её окончательных рекомендаций с тех пор были приняты в законодательном порядке.
«Самое важное, что они могут сделать, — это иметь прочный стул, потому что прочный стул может гарантировать, что конечный продукт будет полезным», — сказал Льюис.
Льюис указал на ещё одну проблему: внедрение ИИ и инвестиции в него, как правило, наиболее высоки в США, Великобритании и странах Европейского союза, правительства которых, вероятно, будут стремиться самостоятельно разрабатывать политику в области ИИ. Эти правительства могут в итоге отказаться от рекомендаций комиссии, состоящей из экспертов из стран с более низким уровнем внедрения ИИ. Льюис сравнил это с ситуацией, когда пассажиры «учат вас, как водить автобус».
Для Тиффани Сааде, эксперта по технологиям и консультанта по политике в области ИИ при ливанском правительстве, а также внештатного советника Института безопасности и технологий, включение этих нетрадиционных точек зрения имеет решающее значение, поскольку дает им возможность формировать политику в отношении технологии, которая очень скоро повлияет на их жизнь.
Сааде, присутствовавший на этой неделе на обсуждениях в ООН в Нью-Йорке, посвященных ИИ, рассказал CyberScoop, что доверие является важной темой, особенно для стран с меньшими технологическими и финансовыми ресурсами.
Однако любые хорошие идеи, которые появятся в результате работы ООН, должны будут подкрепляться реальными стимулами, которые подтолкнут страны и компании к принятию предпочтительных политик.
«Нам необходимо разработать структуры, которые будут стимулировать ведущие правительства и передовые лаборатории соблюдать [рекомендации], не ставя под угрозу инновации», — сказала она.
В прошлом месяце всемирная организация завершила разработку планов по созданию новой экспертной группы, которая будет заниматься разработкой научных, технических и политических стандартов для новых технологий. Независимая научная группа по ИИ будет состоять из 40 международных экспертов, срок полномочий которых составит три года. Состав группы будет сформирован на основе «сбалансированного географического представительства для содействия научному пониманию» рисков и последствий.
Той же резолюцией был создан Глобальный диалог по управлению ИИ, целью которого является объединение правительств, бизнеса и экспертов для «обсуждения международного сотрудничества, обмена передовым опытом и извлеченными уроками, а также содействия открытым, прозрачным и инклюзивным дискуссиям по вопросам управления искусственным интеллектом». Первой задачей диалога является «разработка безопасного, надежного и заслуживающего доверия искусственного интеллекта».
В четверг Генеральный секретарь Антониу Гутерриш заявил, что эти действия помогут ООН перейти «от принципов к практике» и будут способствовать дальнейшему продвижению организации как глобального форума для формирования политики и стандартов в области ИИ.
Это также станет возможностью сформировать международный консенсус по ряду острых вопросов, включая энергопотребление систем искусственного интеллекта, влияние технологии на рабочую силу и наилучшие способы предотвращения ее неправомерного использования в злонамеренных целях или для репрессий в отношении граждан.
Работа ООН «дополнит существующие усилия по всему миру, включая ОЭСР, «Большую семёрку» и региональные организации, и обеспечит инклюзивную, стабильную площадку для координации усилий по управлению ИИ», — сказал он. «Короче говоря, речь идёт о создании пространства, где правительства, промышленность и гражданское общество смогут совместно продвигать общие решения».
Гутерриш прибегнул к возвышенной риторике, утверждая, что эта технология призвана стать неотъемлемой частью жизни миллиардов людей и коренным образом изменить жизнь на Земле (у специалистов по информатике и искусственному интеллекту на этот счет более неоднозначные мнения).
«Вопрос уже не в том, изменит ли ИИ наш мир — он уже изменился», — сказал Гутерриш. «Вопрос в том, будем ли мы управлять этой трансформацией вместе — или позволим ему управлять нами».
Усилия ООН по повышению безопасности, надежности и доверия к системам искусственного интеллекта предпринимаются в то время, как страны с высоким уровнем расходов и активного внедрения таких технологий, как США, Великобритания и Европа, либо перестали акцентировать внимание на этих проблемах, либо стали больше выступать за дерегулирование, чтобы помочь своим отраслям конкурировать с Китаем.
Международные эксперты в области технологий сообщили CyberScoop, что это может дать ООН или другой авторитетной организации возможность играть более активную роль в обсуждении вопросов безопасного и ответственного ИИ. Однако они также реалистично оценили ограниченность полномочий ООН, которая может выходить за рамки поощрения разумной политики.
Павлина Павова, эксперт по киберполитике Управления ООН по наркотикам и преступности в Вене (Австрия), рассказала CyberScoop, что Организация Объединенных Наций создает основу для более содержательных дискуссий по вопросам ИИ и остается «самой инклюзивной площадкой для международного диалога» по поводу этой технологии.
Однако она добавила: «Вновь созданные форматы носят консультативный характер и не имеют полномочий для принуждения, в лучшем случае играя роль укрепления доверия».
Джеймс Льюис, старший советник Центра анализа европейской политики, разделяет некоторые из этих настроений, заявляя, что усилия ООН будут иметь «ограниченное влияние». Но он также сказал, что очевидно, что индустрия ИИ «совершенно неспособна оценивать риски», и что назначение политиков, действительно заинтересованных в разработке решений, ответственными за эту динамику, может помочь противостоять этой тенденции.
Это отражает подход организаторов «Солярия киберпространства США», которые сформировали комиссию из влиятельных законодателей и политических экспертов, чтобы заручиться поддержкой конкретных предложений. Это сработало: по оценкам комиссии, 75% её окончательных рекомендаций с тех пор были приняты в законодательном порядке.
«Самое важное, что они могут сделать, — это иметь прочный стул, потому что прочный стул может гарантировать, что конечный продукт будет полезным», — сказал Льюис.
Льюис указал на ещё одну проблему: внедрение ИИ и инвестиции в него, как правило, наиболее высоки в США, Великобритании и странах Европейского союза, правительства которых, вероятно, будут стремиться самостоятельно разрабатывать политику в области ИИ. Эти правительства могут в итоге отказаться от рекомендаций комиссии, состоящей из экспертов из стран с более низким уровнем внедрения ИИ. Льюис сравнил это с ситуацией, когда пассажиры «учат вас, как водить автобус».
Для Тиффани Сааде, эксперта по технологиям и консультанта по политике в области ИИ при ливанском правительстве, а также внештатного советника Института безопасности и технологий, включение этих нетрадиционных точек зрения имеет решающее значение, поскольку дает им возможность формировать политику в отношении технологии, которая очень скоро повлияет на их жизнь.
Сааде, присутствовавший на этой неделе на обсуждениях в ООН в Нью-Йорке, посвященных ИИ, рассказал CyberScoop, что доверие является важной темой, особенно для стран с меньшими технологическими и финансовыми ресурсами.
Однако любые хорошие идеи, которые появятся в результате работы ООН, должны будут подкрепляться реальными стимулами, которые подтолкнут страны и компании к принятию предпочтительных политик.
«Нам необходимо разработать структуры, которые будут стимулировать ведущие правительства и передовые лаборатории соблюдать [рекомендации], не ставя под угрозу инновации», — сказала она.
