ＡＩに関する週刊ダイヤモンド深澤献編集長の珍説を検証

週刊ダイヤモンドの深澤献編集長が週刊ダイヤモンド2月10日号の「From Editors」という編集後記でＡＩに関する珍説を披露していた。記事の全文を見た上で、この説が妥当か検証してみたい。

巨瀬川と耳納連山（福岡県久留米市）
　　　　　　　※写真と本文は無関係です

【ダイヤモンドの記事】

ＡＩが進化したとはいえ、人間が当然身に付けている「常識」や「倫理観」を持たせるのは難しいそうです。

有名なＡＩ開発プロジェクト「ロボットは東大に入れるか。」でも、「金属の棒に、バターで豆を張り付ける。棒の片方を火で炙ったら、どういう順番で豆が落ちるか」といった小学生レベルの理科の問題に、むしろ苦労したとか。

未来の戦争で戦場に出るロボット兵士には、敵か味方か、兵士か民間人かを正確に見分ける能力が必須となるでしょうが、そうすると「動くものなら全て撃て」と教えられた原始的なＡＩを搭載したロボットに完敗することになる。

ＡＩ時代に人間が就くべき職業として「ＡＩに常識と倫理を教える先生」というのはありかもしれません。


◎「動くものなら全て撃て」に負ける？

引っかかったのは「敵か味方か、兵士か民間人かを正確に見分ける能力」を持つ「ロボット兵士」が「『動くものなら全て撃て』と教えられた原始的なＡＩを搭載したロボットにに完敗する」という説明だ。色々考えてみたが、「完敗する」可能性は低そうだ。

ここでは、「正確に見分ける能力」を持つロボットを「先進ロボット」、「動くものなら全て撃て」とプログラムされているロボットを「原始ロボット」と呼ぶ。先進ロボットは敵味方の識別をするので、攻撃を仕掛けるタイミングが原始ロボットよりわずかに遅くなると仮定しよう。攻撃能力は互角とする。

まずは、先進ロボットと原始ロボットが集団で戦う場合を考える。広い草原で100体ずつに分かれて配備されているとする。ここで戦闘開始となったらどうなるか。まずは原始ロボット同士での戦いが始まる。原始ロボットは自らの近くで動く仲間の原始ロボットを見境なく攻撃するので、戦闘開始からすぐに大きく数を減らすだろう。そして、先進ロボットの集団と接近した時には、相手に敵だと識別されている上に、数の上では圧倒的な劣勢だ。原始ロボットの敗北は避けられそうもない。

では、１対１の場合はどうか。

双方の攻撃可能範囲が半径100メートルで、先進ロボットが200メートル以内ならば敵味方を識別可能だと仮定すれば、100メートルより離れた場所から戦いを始める場合、勝負の行方は五分五分だ。

100メートル以内では原始ロボットの勝ちかと言えば、そうとも限らない。例えば、周りに鳥がたくさん飛んでいる状況では原始ロボットが不利だ。原始ロボットはまず鳥に攻撃を仕掛けるので、その間に先進ロボットから攻撃を受けてしまう。

ここまでは、先進ロボットが原始ロボットについて学習していないとの想定で話を進めてきた。しかし、最新のＡＩを搭載した先進ロボットは原始ロボットの行動パターンを学習していると考える方が自然だ。

その場合、（１）自らはなるべく動かない（２）ダミーの動く物（風船など）を用意してそちらを敵に攻撃させる－－といった対策を立ててくるだろう。そうなると、原始ロボットの勝ち目はさらになくなる。

他に動く物がない環境で、１対１でいきなり出くわして－－といった状況を想定すれば、原始ロボットが勝つ場合もある。だが、かなり特殊な条件付きだ。基本的には先進ロボットが有利だと思える。

そもそも「未来の戦争で戦場に出るロボット兵士には、敵か味方か、兵士か民間人かを正確に見分ける能力が必須となる」とすれば、「『動くものなら全て撃て』と教えられた原始的なＡＩを搭載したロボット」は必須の能力を欠いていることになる。そんなロボットが戦場に出てくる可能性は限りなく低そうだ。味方も鳥も風船も無差別に攻撃するロボットでは、現実的には使い物にならない。

正常な判断ができる人ならば、そんな「ロボット」を戦場に送り込もうとは、まず考えないだろう。１体で敵を全滅させられるほどの圧倒的な強さを見せてくれるのならば話は別だが…。


※今回取り上げた記事「From Editors」
http://dw.diamond.ne.jp/

※記事の評価はＤ（問題あり）。深澤献編集長への評価はＥ（大いに問題あり）を据え置く。