LAWSとサイバーセキュリティ攻撃の想定リスク
では、実際のLAWSおよびサイバーセキュリティ攻撃にて想定されるリスクは、どのようなものがあるのだろうか。それぞれについて紹介された。
AIが武力を行使する日
LAWSが開発された際の起こりうるリスクについて、ここでは一例として、オペレーション面におけるインパクトについて紹介された。
現在、武力の行使は人間の司令官によって意思決定されている。人間が意思決定するということは、それ相応に時間を要するということであり、その背景には「人間の司令官は、戦争のエスカレーションを抑える」ための判断をしているという前提がある。
一方、LAWSの場合は武力の行使の有無についてもマシンが意思決定するので、ものの数秒で攻撃が決定してしまうリスクがある。そしてAIが、人間が行なっているような不要なエスカレーションを抑制する働きを持つとも限らないわけだ。
そもそも、これまでの戦争や紛争とは、国家間の一定の取り決めの中で行われてきたが、AIベースの兵器システムが同じように考慮してくれるのか。
このような意思決定における説明責任が問われてくることになる。
サイバーセキュリティ攻撃は武力攻撃？
これは国連内でも最も物議を醸しているテーマの一つだという。
現行の国際法上、国の自衛権については、国連憲章第51条にて、「武力攻撃（armed attack）」の発生が自衛権行使の要件として規定されている。
第7章 平和に対する脅威、平和の破壊及び侵略行為に関する行動
第51条この憲章のいかなる規定も、国際連合加盟国に対して武力攻撃が発生した場合には、安全保障理事会が国際の平和及び安全の維持に必要な措置をとるまでの間、個別的又は集団的自衛の固有の権利を害するものではない。この自衛権の行使に当って加盟国がとった措置は、直ちに安全保障理事会に報告しなければならない。また、この措置は、安全保障理事会が国際の平和及び安全の維持または回復のために必要と認める行動をいつでもとるこの憲章に基く権能及び責任に対しては、いかなる影響も及ぼすものではない。
ここで問題となるのは、サイバーセキュリティ攻撃が単体として武力攻撃をなし、自衛権行使の対象となるのかという点である。
国際司法裁判所のニカラグア事件（※）判決では、武力攻撃について「武力行使（use of force）の最も重大な形態」であり「規模と効果（scale and effect）が考慮される」としたが、その具体的基準は明示されていない。よって、武力攻撃については、現行の国際法上で明確な定義や基準がないのである。
つまり現状としては、サイバーセキュリティ攻撃を武力攻撃とみなすか否かの判断は各国に委ねられており、武力攻撃と判断されたサイバーセキュリティ攻撃に対しては、国家が自衛権を行使し得ることとなる。
これに対し、国連としてはどのような役割を担うべきで、誰を関与させるべきか。国連で軍縮・不拡散を扱う第一委員会の下に設置された政府専門家会合（Group of Governmental Experts、通称：GGE）を中心に、議論を進めているという。
※ニカラグア事件：ニカラグア共和国に対する軍事行動等の違法性を主張し、1984年にニカラグアが違法性の宣言や損害賠償などを求め、国際司法裁判所（以下、ICJ）にアメリカを提訴した国際紛争。1986年にICJはアメリカの行動の違法性を認定したが、結局、同国による賠償がないままニカラグアの請求取り下げを受け、ICJは1991年に裁判終了を宣言している。
民間含めた対話プラットフォームの設置を予定
このような背景の中、アントニオ・グテーレス 第9代国連事務総長は、2018年5月24日にジュネーブ大学で講演し、“Securing Our Common Future”と題する軍縮アジェンダを発表した。国連の軍縮の取り組みにおける新戦略と言える。これは以下の3つの柱で構成されており、新しいテクノロジーにも対応しているものだ。
・人類を守るための軍縮（Disarmament to save humanity）
・人命を救うための軍縮（Disarmament to save lives）
・未来世代のための軍縮（Disarmament to save generations）
世界をより安全にするための包括的な取り組みとして、国連トップが主導して軍縮の動きを活発化させる狙いがあり、国連自体、具体的なアクションを取ろうとしている。
特に熱心に取り組む想定としてあるのが、マルチステークホルダーとの対話の場の設置だという。
「私たちはこの対話の場を設けるべく、常設のプラットフォームを作ろうとしています。そしてこのプラットフォームには、多様性ある方々の参加が必要と考えています。
企業・団体規模の多様性、地理的な多様性、ステークホルダーの多様性、ジェンダーの多様性、年齢の多様性。
特に最後の年齢については、最新テクノロジーがもたらす影響やソリューションを考えうるのは若い人じゃないかと感じております。
多くの企業様とお話しする中で、彼らは国連の”束ねる力”を評価してくださっており、国連こそ規範を作る役割を担う必要がある、とおっしゃっています。
日本含めたアジア各国にもこのプラットフォームに参加してもらいたいと思い、今回、日本に参りました。
AIなどの新しいテクノロジーは戦争のあり方を根本的に変え、破壊のスピード向上が中心だったこれまでから、破壊の質・種類・性質を大きく変えていくことでしょう。
これに対してしっかりと予防策を取るべきです。
皆様のご協力を楽しみにしています！」
編集後記
Report1・2においては、セッションの主眼が「AI時代における日本」でしたが、本セッションでは主眼が「世界」となっており、グローバルレベルでの課題認識や具体的なアクションを確認することができました。
ここ数十年に渡り、物理的な戦争や紛争体験のない恵まれた環境にある我が国だからこそ、この辺りの世界潮流の感度を今以上に上げていく必要があると感じています。
国連が主導する新プラットフォームに、ぜひ日本からも様々な有識者が積極的に参加されることを願っています。
（プラットフォーム詳細については、別途国連広報センター等よりアナウンスされると思われます。）
次回Report4では、「課題先進国日本でAIスタートアップが注目される理由」というテーマのセッションについてお伝えします。
お楽しみに！
AI/SUMレポートシリーズ by LoveTech Media
Report1. 令和時代成長の鍵は「AIとデータ」、G20大阪に先駆け開催されたAI/SUM
[clink url=”https://lovetech-media.com/eventreport/aisum01_20190427/”]Report2. 精度の高いデータ集めと現場力こそ日本の強み、Made AI Japan
[clink url=”https://lovetech-media.com/eventreport/20190428_aisum02/”]Report3. 武力の種類・性質が変わるAI時代で国連が果たすべき役割とは
[clink url=”https://lovetech-media.com/eventreport/aisum03_20190429/”]Report4. 課題先進国だからこそデザイン領域含めたAIリテラシー教育が必要
[clink url=”https://lovetech-media.com/eventreport/20190430_aisum04/”]Report5. デジタル時代に日本が進めるべきアーキテクチャ思考《前編》
[clink url=”https://lovetech-media.com/eventreport/aisum05_20190501/”]Report6.デジタル時代に日本が進めるべきアーキテクチャ思考《後編》
[clink url=”https://lovetech-media.com/eventreport/20190502_aisum06/”]Report7. 官民それぞれから見るヘルスケア領域でのAI活用の可能性
[clink url=”https://lovetech-media.com/eventreport/aisum07_20190503/”]Report8. 日本が向かうべき信頼ベースのガバナンスイノベーション
[clink url=”https://lovetech-media.com/eventreport/20190504_aisum08/”]Report9. 世界のソーシャル・グッド領域で活用されるAIが人々を救う
[clink url=”https://lovetech-media.com/eventreport/aisum09_20190505/”]Report10. インディア・スタック事例から考えるSociety5.0時代のガバナンス《前編》
[clink url=”https://lovetech-media.com/eventreport/20190506_aisum10/”]Report11. インディア・スタック事例から考えるSociety5.0時代のガバナンス《後編》
[clink url=”https://lovetech-media.com/eventreport/aisum11_20190507/”]Report12. LoveTech Mediaが選ぶAI/SUM Next 90登壇社注目スタートアップ
[clink url=”https://lovetech-media.com/eventreport/20190514aisum/”]Report13. ポストAIとしてのALife研究、電気羊の夢を見る日は来るか？
[clink url=”https://lovetech-media.com/eventreport/aisum13_20190526/”]
