武力の種類・性質が変わるAI時代で国連が果たすべき役割とは 〜AI/SUM Report 3

イベントレポート

 日本経済新聞社が主催する、人工知能(AI)の活用をテーマにした初のグローバルイベント「AI/SUM(アイサム)」。「AIと人・産業の共進化」をメインテーマに掲げ、4月22日〜24日の3日間かけて東京・丸の内で開催された、大規模ビジネス&テクノロジーカンファレンスである。6月に大阪で開催されるG20に先駆けた取り組みとも言える。

 レポート第3弾の本記事では、中満泉(なかみつ いずみ)国際連合事務次長・軍縮担当上級代表を迎えてのセッションについてお伝えする。

 国連は、最新のテクノロジー同様、AIが及ぼし得る多大な影響について常に時勢に遅れず認識し続ける必要があると認識している。開発や人道的活動の未来だけでなく、安全保障や武器の問題もあわせて甚大であり、AIがもたらす計り知れない利点の一方で、致死性の自律兵器システム(LAWS)や、官民の大規模インフラを不安定にしかねない無人サイバーセキュリティ攻撃等の重要課題に直面する今、国連軍縮事務局はこれまで以上にプロアクティブな動きを求められている。

 新たな挑戦と今後起こり得る脅威、公的部門と民間が協力して取り組むべき様々なソリューションについて議論された。

<モデレーター>
ニコラ・パヴェシッチ氏(日本経済新聞社)

<登壇者>
中満泉氏(国連事務次長・軍縮担当上級代表)

》AI/SUM 2019記事一覧はこちら

中満泉氏について

 セッション内容をお伝えする前に、まずは登壇者である中満氏のこれまでのご経歴についてお伝えする。

 2017年5月より日本人女性として初の国連事務次長・軍縮担当上級代表に就任されている中満氏は、言うなれば「国連のたたき上げ」と言って良いだろう。

 1989年に大学院卒業後、国連難民高等弁務官事務所(UNHCR)で国連職員としてキャリアをスタートさせ、それ以来、数々の人道危機の現場に立ち、また多くの国際機関のポストを歴任されてきた。

 UNHCR法務官、人事政策担当官、旧ユーゴ・サラエボ、モスタル事務所長、旧ユーゴスラビア国連事務総長特別代表上級補佐官、UNHCR副高等弁務官特別補佐官、国連本部事務総長室国連改革チームファースト・オフィサー、International IDEA(国際民主化支援機構)官房長、企画調整局長などを経て、2005年から2008年8月までは日本に戻り、一橋大学 法学部、国際・公共政策大学院教授となった。

 2008年9月からは国連平和維持活動(PKO)局で政策・評価・訓練部長、アジア・中東部上級部長を歴任。アジアと中東の全域、および西サハラを主管し、市民保護を徹底するべくPKO活動の見直しを進めた。

 さらに2014年9月からは国連開発計画(UNDP)の総裁補兼初代危機対応局局長に任命され、また最近では2016年から2017年にかけて「UN Summit for Refugees and Migrants」という、難民と移住者の大規模移動に対処するためのサミットのフォローアップ特別顧問としても活躍されている。

 国連のキャリア職員として平和維持活動や安全保障分野、人道支援分野など様々なポストで活躍されていると同時に、国連内外でも多くの経験をされている。

 ちなみに、2児の母でもあるという。

 1年前となる2018年5月には、米Fortune誌発表の「世界の偉大なリーダー50名」にも選出(37位)されており、ご存知のLoveTech Media読者も多いのではないだろうか。

21世紀型規範として「soft norms」の設置を進める

「まず初めに、私たちはテクノロジーのポジティブインパクトを理解しており、決してネガティブに捉えていないということを最初にお伝えします。

その上で私自身は、テクノロジーがもたらすネガティブインパクトを最小化することをミッションと捉えて活動しています。

 中満氏率いる国連軍縮部(United Nation Office for Disarmament Affairs、通称:UNODA)とは、その名の通り、厳格かつ効果的な国際的統制の下で、一般的かつ完全な形での軍縮、という最終目標を達成しようとする多国間の努力を支援する組織である。

 国連はここ5年ほどの間、サイバースペースにおける国家の責任ある行動の規範を発展させるべく、AI開発およびそれに関わるサイバーセキュリティの問題についてずっと議論をしている。背景にあるのは、従来型兵器だけではない、自律型致死性兵器システム(Lethal Autonomous Weapons Systems、通称:LAWS)や、官民の大規模インフラを不安定にしかねない無人サイバーセキュリティ攻撃といったものの存在である。

 例えば前者について、AIの発展は兵器の自律性向上をもたらし、軍事作戦下における人的リスクを低減することが期待される。つまり、兵士が戦地に赴かずとも、AI兵器がミッションを遂行してくれるということだ。

 一方でこのような自律型兵器は国際人道法を遵守できるのか、といった懸念が国際社会で指摘されており、これらがLAWSの問題点として、特定通常兵器使用禁止制限条約(Convention on Certain Conventional Weapons、通称:CCW)の枠組みにおいて、規制の必要性やその内容等について議論されている。

 ちなみにCCWとは、非人道的な効果を有する特定の通常兵器の使用の禁止又は制限について1980年にジュネーブにて採択、1983年に発効されたものであり、簡単にお伝えすると、兵器が人間に害を及ぼさないようにするための国際的なフレームワークとなる条約である。

 その中で国連軍縮部では、政府対政府、国家対国家の条約や慣例・法律だけでなく、この分野に精通する科学者やエンジニアといった、産業界との話し合いも増やすべきだと認識している。中満氏はこれらを通じた21世紀型規範を「soft norms(ソフトな規範)」と表現されていた。

LAWSとサイバーセキュリティ攻撃の想定リスク

 では、実際のLAWSおよびサイバーセキュリティ攻撃にて想定されるリスクは、どのようなものがあるのだろうか。それぞれについて紹介された。

AIが武力を行使する日

 LAWSが開発された際の起こりうるリスクについて、ここでは一例として、オペレーション面におけるインパクトについて紹介された。

 現在、武力の行使は人間の司令官によって意思決定されている。人間が意思決定するということは、それ相応に時間を要するということであり、その背景には「人間の司令官は、戦争のエスカレーションを抑える」ための判断をしているという前提がある。

 一方、LAWSの場合は武力の行使の有無についてもマシンが意思決定するので、ものの数秒で攻撃が決定してしまうリスクがある。そしてAIが、人間が行なっているような不要なエスカレーションを抑制する働きを持つとも限らないわけだ。

 そもそも、これまでの戦争や紛争とは、国家間の一定の取り決めの中で行われてきたが、AIベースの兵器システムが同じように考慮してくれるのか。

 このような意思決定における説明責任が問われてくることになる。

サイバーセキュリティ攻撃は武力攻撃?

 これは国連内でも最も物議を醸しているテーマの一つだという。

 現行の国際法上、国の自衛権については、国連憲章第51条にて、「武力攻撃(armed attack)」の発生が自衛権行使の要件として規定されている。

第7章 平和に対する脅威、平和の破壊及び侵略行為に関する行動
第51条

この憲章のいかなる規定も、国際連合加盟国に対して武力攻撃が発生した場合には、安全保障理事会が国際の平和及び安全の維持に必要な措置をとるまでの間、個別的又は集団的自衛の固有の権利を害するものではない。この自衛権の行使に当って加盟国がとった措置は、直ちに安全保障理事会に報告しなければならない。また、この措置は、安全保障理事会が国際の平和及び安全の維持または回復のために必要と認める行動をいつでもとるこの憲章に基く権能及び責任に対しては、いかなる影響も及ぼすものではない。

 ここで問題となるのは、サイバーセキュリティ攻撃が単体として武力攻撃をなし、自衛権行使の対象となるのかという点である。

 国際司法裁判所のニカラグア事件(※)判決では、武力攻撃について「武力行使(use of force)の最も重大な形態」であり「規模と効果(scale and effect)が考慮される」としたが、その具体的基準は明示されていない。よって、武力攻撃については、現行の国際法上で明確な定義や基準がないのである。

 つまり現状としては、サイバーセキュリティ攻撃を武力攻撃とみなすか否かの判断は各国に委ねられており、武力攻撃と判断されたサイバーセキュリティ攻撃に対しては、国家が自衛権を行使し得ることとなる。

 これに対し、国連としてはどのような役割を担うべきで、誰を関与させるべきか。国連で軍縮・不拡散を扱う第一委員会の下に設置された政府専門家会合(Group of Governmental Experts、通称:GGE)を中心に、議論を進めているという。

※ニカラグア事件:ニカラグア共和国に対する軍事行動等の違法性を主張し、1984年にニカラグアが違法性の宣言や損害賠償などを求め、国際司法裁判所(以下、ICJ)にアメリカを提訴した国際紛争。1986年にICJはアメリカの行動の違法性を認定したが、結局、同国による賠償がないままニカラグアの請求取り下げを受け、ICJは1991年に裁判終了を宣言している。

民間含めた対話プラットフォームの設置を予定

 このような背景の中、アントニオ・グテーレス 第9代国連事務総長は、2018年5月24日にジュネーブ大学で講演し、“Securing Our Common Future”と題する軍縮アジェンダを発表した。国連の軍縮の取り組みにおける新戦略と言える。これは以下の3つの柱で構成されており、新しいテクノロジーにも対応しているものだ。

・人類を守るための軍縮(Disarmament to save humanity)

・人命を救うための軍縮(Disarmament to save lives)

・未来世代のための軍縮(Disarmament to save generations)

 

 世界をより安全にするための包括的な取り組みとして、国連トップが主導して軍縮の動きを活発化させる狙いがあり、国連自体、具体的なアクションを取ろうとしている。

 特に熱心に取り組む想定としてあるのが、マルチステークホルダーとの対話の場の設置だという。

 

「私たちはこの対話の場を設けるべく、常設のプラットフォームを作ろうとしています。そしてこのプラットフォームには、多様性ある方々の参加が必要と考えています。

企業・団体規模の多様性、地理的な多様性、ステークホルダーの多様性、ジェンダーの多様性、年齢の多様性。

特に最後の年齢については、最新テクノロジーがもたらす影響やソリューションを考えうるのは若い人じゃないかと感じております。

多くの企業様とお話しする中で、彼らは国連の”束ねる力”を評価してくださっており、国連こそ規範を作る役割を担う必要がある、とおっしゃっています。

日本含めたアジア各国にもこのプラットフォームに参加してもらいたいと思い、今回、日本に参りました。

AIなどの新しいテクノロジーは戦争のあり方を根本的に変え、破壊のスピード向上が中心だったこれまでから、破壊の質・種類・性質を大きく変えていくことでしょう。

これに対してしっかりと予防策を取るべきです。

皆様のご協力を楽しみにしています!

 

編集後記

Report1・2においては、セッションの主眼が「AI時代における日本」でしたが、本セッションでは主眼が「世界」となっており、グローバルレベルでの課題認識や具体的なアクションを確認することができました。

 

ここ数十年に渡り、物理的な戦争や紛争体験のない恵まれた環境にある我が国だからこそ、この辺りの世界潮流の感度を今以上に上げていく必要があると感じています。

 

国連が主導する新プラットフォームに、ぜひ日本からも様々な有識者が積極的に参加されることを願っています。

(プラットフォーム詳細については、別途国連広報センター等よりアナウンスされると思われます。)

 

次回Report4では、「課題先進国日本でAIスタートアップが注目される理由」というテーマのセッションについてお伝えします。

 

お楽しみに!

 

AI/SUMレポートシリーズ by LoveTech Media

Report1. 令和時代成長の鍵は「AIとデータ」、G20大阪に先駆け開催されたAI/SUM

Report2. 精度の高いデータ集めと現場力こそ日本の強み、Made AI Japan

Report3. 武力の種類・性質が変わるAI時代で国連が果たすべき役割とは

Report4. 課題先進国だからこそデザイン領域含めたAIリテラシー教育が必要

Report5. デジタル時代に日本が進めるべきアーキテクチャ思考《前編》

Report6.デジタル時代に日本が進めるべきアーキテクチャ思考《後編》

Report7. 官民それぞれから見るヘルスケア領域でのAI活用の可能性

Report8. 日本が向かうべき信頼ベースのガバナンスイノベーション

Report9. 世界のソーシャル・グッド領域で活用されるAIが人々を救う

Report10. インディア・スタック事例から考えるSociety5.0時代のガバナンス《前編》

Report11. インディア・スタック事例から考えるSociety5.0時代のガバナンス《後編》

Report12. LoveTech Mediaが選ぶAI/SUM Next 90登壇社注目スタートアップ

Report13.(仮題)AI からALIFE へ(2019年5月16日以降公開予定)

※記事公開日時・順番等は予告なく変更となる場合がございます。あらかじめご了承ください。

 

 

Love Tech Mediaに感想・コメントを送る

 

LoveTechMediaは、【恋愛/結婚】【妊娠/出産】【育児】【家族生活】【福祉】【社会課題】の6分野を「人の”愛”に寄り添うテーマ」と定義し、これらのテーマをテクノロジーで補完する「人とサービス」の情報(Intelligence)をお届けする、というコンセプトで運営しています。

ピックアップ記事

関連記事一覧

  1. この記事へのコメントはありません。

LoveTechMedia

テクノロジーに触れないことによる”愛”損失を最小限に留める。
LoveTechMediaとは