Генеральный секретарь ООН предлагает мировое соглашение по управлению ИИ

Генеральный секретарь ООН, Антониу Гутерриш, считает необходимым создать новый международный орган, который поможет регулировать использование искусственного интеллекта, поскольку технология все чаще раскрывает свой потенциал как в плане выявления рисков, так и в плане приносящих пользу преимуществ.
Во вторник на первом в истории совещании Совета безопасности ООН, посвященному управлению искусственным интеллектом, Гутерриш заявил, что ООН имеет возможность установить всеобщепризнанные правила для наблюдения и регулирования ИИ.
Гутерриш подчеркнул, что, так же, как ООН созывала аналогичные органы для управления ядерной энергией, обеспечения безопасности в авиации и преодоления вызовов изменения климата, она должна сыграть уникальную роль в координации международного ответа на вызовы, представляемые искусственным интеллектом.
Он также отметил, что ООН уже применяет искусственный интеллект в своей собственной деятельности для мониторинга перемирий и выявления узоров насилия. Кроме того, вооруженные силы и гуманитарные операции ООН также подвергаются атакам враждебных субъектов, использующих ИИ с злонамеренными целями, что приводит к серьезному человеческому страданию.
Гутерриш предупредил: "Злонамеренное использование систем искусственного интеллекта в террористических, преступных или государственных целях может привести к ужасным масштабам смертности и разрушений, вызвать распространенные травмы и глубокие психологические травмы невообразимой степени". Он также добавил, что генеративный искусственный интеллект имеет огромный потенциал для добра и зла в масштабах всего человечества, и его создатели сами предупреждали о гораздо больших, потенциально катастрофических и существенных рисках в будущем. Без действий по устранению этих угроз, мы не выполняем свои обязательства перед текущими и будущими поколениями.
Гутерриш подчеркнул, что к 2026 году ООН должна разработать правово обязательное соглашение, запрещающее использование искусственного интеллекта в полностью автоматизированных военных оружиях. Он также обещал собрать совет, который разработает предложения для регулирования ИИ более широко к концу года, и предвосхитил предстоящий документ с рекомендациями для правительств о том, как ответственно подходить к использованию этой технологии.
Заседание возглавил министр иностранных дел Великобритании Джеймс Клеверли, который призвал связать международное управление искусственным интеллектом с принципами защиты свободы и демократии; уважения прав человека и верховенства права; обеспечения безопасности, включая физическую безопасность, а также защиту прав собственности и конфиденциальности; и доверия.
"Мы здесь сегодня, потому что ИИ повлияет на работу этого совета", - сказал Клеверли. - "Он может усилить или нарушить глобальную стратегическую стабильность. Он подвергает сомнению наши основные предположения о обороне и сдерживании. Он вызывает моральные вопросы относительно ответственности за летальные решения на поле боя... ИИ может помочь реализовать безрассудное стремление государств и нестатских акторов к оружию массового уничтожения, но также он может помочь нам предотвратить распространение такого оружия".
Тем временем правительство Китая заявило, что правила ООН должны отражать точку зрения развивающихся стран, чтобы предотвратить превращение технологии в "неукротимого дикого скакуна".
Международные законы и нормы в отношении ИИ должны быть гибкими, чтобы дать странам возможность установить свои собственные регулирования национального уровня, заявил китайский посол Чжан Цзюнь, также раскритиковавший не названные "развитые страны" за попытки достичь доминирования в области искусственного интеллекта.
"Некоторые развитые страны, стремясь к технологическому гегемонизму, предпринимают усилия по созданию своих исключительных клубов и злонамеренно препятствуют технологическому развитию других стран и искусственно создают технологические барьеры", - сказал Чжан. - "Китай решительно против такого поведения".
Заметки представителя США на заседании непосредственно не касались обвинений правительства Китая, но были сделаны заявления о том, что "никакое государство-член не должно использовать ИИ для цензуры, ограничения, подавления или обездоливания людей" - что могло бы быть скрытой отсылкой к использованию Китаем технологий для наблюдения за этническими меньшинствами.
На заседании также были выслушаны мнения из представителей технологической индустрии.
Обратившись к Совету безопасности через телеконференцию, сооснователь компании по искусственному интеллекту "Антропик" Джек Кларк призвал членов ООН не допустить, чтобы частные компании доминировали в развитии искусственного интеллекта.
"Мы не можем полностью передавать развитие искусственного интеллекта частным секторным акторам", - сказал Кларк. - "Правительства мира должны объединиться, чтобы разрабатывать безопасные возможности и сделать развитие мощных систем искусственного интеллекта общим делом для всего общества, а не только для небольшого числа фирм, конкурирующих друг с другом на рынке".