私が少年時代、アニメの元祖とも言える漫画が流行っていた。

手塚治虫の「鉄腕アトム」。

人の子供ほどの小さな体に十万馬力の原子力エンジンを持ち、

足に組み込まれたロケットで空を飛ぶ。

今のアニメではあり得ない非現実的なまでに高性能なロボットが主人公。

鉄腕アトムは、普段は普通の少年のように暮らしているが

次から次へと現れる悪漢どもと闘い、ことごとく勝つ。

しかし、圧倒的な力を加えて戦う相手はいつも悪漢側のロボットで、

悪漢であっても人間そのものには直接手を下して傷を負わせることはない。

ましてや殺すなんてことは絶対ない。

どんなロボットも、ロボットには、

「人を殺すなかれ。」とい不文律のプログラムが仕組まれていて、

ロボット同士が戦うことはあっても、

人間を傷つけるような行為は自律的に出来なく造られている。

鉄腕アトムを創った手塚治虫は、

「機械が機械の意志で人間を傷つけ殺すなんてことがあっていいはずがない。」

きっとそう考えていて、

ロボットが本当に出来る未来が来ても、

その時代の人間もそう考えるはずで

「人を殺すなかれ」の不文律は必ず守られるはずだと考えたのでしょう。

ところが、Yahoo!のニュースにこんなのが載っていた。

——————————————————————————

北アフリカ・リビアの内戦で軍用の無人小型機（ドローン）が、人間から制御されない状態で攻撃をした可能性があることが、国連の安全保障理事会の専門家パネルによる報告書で指摘されていたことが分かった。人工知能（AI）を用いて、自動的に相手を攻撃する兵器が戦場で用いられたとしたら、世界初のケースになるとみられる。

専門家パネルの報告書は、今年3月にまとめられた。報告書は、リビア暫定政権が昨年3月に軍事組織を攻撃した際、トルコ企業が開発した「自律型致死兵器システム（LAWS）」と呼ばれる無人小型機によって追尾攻撃が行われたと指摘した。このLAWSについて「操縦者とつながっていなくても、標的を攻撃するようプログラミングされていた」としており、AIが攻撃を行った可能性を示唆している。情報源や、死傷者が出たかについては記されていない。

米国の専門誌「原子力科学者会報」は5月、この報告書について「空を飛ぶ殺人ロボットが使われたかもしれない」と報道。「死者が出ていた場合、AIを用いた自律型兵器が殺害に用いられた、歴史上最初の出来事になる可能性が高い」と位置づけた。

一方、拓殖大の佐藤丙午教授（安全保障論）は「LAWSとは、指揮管制システムから攻撃、その評価までの全体を指す。その中で顔認証などで標的を定め、追跡、攻撃するという機能を規制しようというのが国際社会の流れだ。報告書によると、ドローンのような無人兵器が戦場に現れ、脅威を与えたことは事実かもしれないが、具体的な行動は書かれておらず、LAWSではなかったのでは、という印象だ」という。

ただ、佐藤氏は「小型ドローンが勝手にターゲットを認識し、追いかけて殺害する、という可能性のある兵器が戦場に出てきたという点は、LAWSへの懸念そのものの構図に当てはまる」と指摘。「兵器開発を止めることは難しくても、拡散や使用をいかに防ぐかが重要で、軍備管理・軍縮の枠組みで取り組むしか道はない」と語る。

LAWSをめぐっては、地雷など非人道的な兵器を規制する特定通常兵器使用禁止制限条約（CCW）の枠組みで国際的な規制が模索されてきた。「コロナ禍で2年近く止まっている議論を加速するべきだ」とした。

米ニューヨーク・タイムズも原子力科学者会報の記事の筆者の見方を紹介しながらも、「報告書では、ドローンがどれだけ独立して行動し、人間がどれだけ監視・制御していたか分からない」として、評価に慎重な別の専門家の見方も紹介した。ただ、この専門家も「自律型兵器システムについては議論をすべきか？　当然だ」としている。

人間は堕ちる所まで堕ちて行くのだろうか?