Go to contents

殺人ロボットとロボット殺人

Posted November. 13, 2017 10:24,   

Updated November. 13, 2017 11:02

한국어

非武装地帯(DMZ)にはロボット兵士が勤務している。ハンファテックウィンが開発して、2010年、DMZに配置したというSGR-A1である。4キロ周囲を監視しながら接近する物体が人間か動物かを区分して、人間なら合言葉を尋ねる。敵軍と判断されると、機関銃を発射することもできる。英BBCが挙げた代表的キラーロボットの一つであるが、最終的発射命令は、状況の報告を受けた「人間兵士」が下す。人工知能(AI)が銃発射の決定までしてはならないという理由からだ。

◆ロシアは最近、AI自身が攻撃対象を見つける無人銃撃システムを披露した。米国の無人艦艇「シーハンター」は、自律航行で海を航海しながら敵の潜水艦を見つけて攻撃する。英国は偵察はもとより、空中戦まで可能なAIドローン「タラニス」を運用している。人間の命令がなくても自分で敵を攻撃する自律破壊兵器(LAWS)、すなわちキラーロボットの時代はすでに幕が上がった。

◆13日からスイスのジュネーブで開かれる国連特定通常兵器禁止制限条約(CCW)会議のテーマもキラーロボットである。映画「ターミネーター」シリーズのように、AIが人間を支配することになるという極端な想像から、テロリストがキラーロボットを保有することになる場合の副作用の懸念まで、さまざまな議論が予想される。テスラの創業者イーロン・マスクなど、ロボット・AIの専門家116人は8月、国連にキラーロボットの禁止を促したこともある。一方、キラーロボットの賛成論者らはかえって、これが人命被害を最小限に抑えられる武器だと主張する。

◆元米軍ドローン操縦士だったブランドン・ブライアントは2013年、「米ネバダ州空軍基地から、アフガニスタンのテロリストにドローンでミサイルを撃って、5年間で1600人以上の遠隔殺人を行った」と告白した。画面だけを見て引き金を引いた彼は、「罪のない人を殺したかもしれない」という自責の念のために退役した。もし彼が「除去対象」までAIに任せることができたなら、罪悪感を減らすことができたのだろうか。むしろキラーロボットが間違った人を殺したかもしれないという別の罪悪感に苦しんだりはしなかっただろうか。いくら戦争とはいえ、人間の生死をロボットの判断に任せてもいいのかは考えてみることだ。

朱性元(チュ・ソンウォン)論説委員 swon@donga.com