見出し画像

人類は「キラー・ロボット」を開発してよいのか?|高橋昌一郎【第7回】

■膨大な情報に流されて自己を見失っていませんか?
■デマやフェイクニュースに騙されていませんか?
■自分の頭で論理的・科学的に考えていますか?
★現代の日本社会では、あらゆる分野の専門家がコンパクトに仕上げた「新書」こそが、最も厳選されたコンテンツといえます。
★「新書」の最大の魅力は、読者の視野を多種多彩な世界に広げることにあります。
★本連載では、哲学者・高橋昌一郎が、「知的刺激」に満ちた必読の新刊「新書」を選び抜いて紹介します。

フランケンシュタイン・コンプレックスとキラー・ロボット

1818年、イギリスの小説家メアリー・シェリーが『フランケンシュタイン』を発表し、1931年にユニバーサル・ピクチャーズが映画化して世界中に大反響を巻き起こした。この小説が『ジキル博士とハイド氏』(1886年)や『ドラキュラ』(1897年)の先駆けとなった19世紀の幻想的な「ゴシック小説」である。

フランケンシュタインは、死体を墓から掘り起こし、繋ぎ合わせて人造人間を作る。ところが、この怪物は結果的にフランケンシュタインを恨むようになり、彼の妻や友人を殺害していく。そこから、自分の開発した人工物に破滅させられる恐怖を「フランケンシュタイン・コンプレックス」と呼ぶようになった。この名称を創作したSF作家のアイザック・アシモフは、そこに人類が人工物に支配される未来への潜在恐怖を見る。映画『ターミネーター』の世界である。

さて、2001年から2021年まで20年にわたって繰り広げられたアフガニスタン戦争では、過去の戦争とは本質的に異なる光景があった。その状況を描いたのが2014年の映画『ドローン・オブ・ウォーズ』である。この作品の主人公は、ラスベガス近郊の基地でアフガニスタン上空を飛ぶドローン攻撃機を操縦する。エアコンの効いたコンテナでスクリーンを見ながら敵のタリバン兵をミサイル攻撃し、勤務時間が終われば家族の待つ温かい自宅に帰る。ところが、ゲームのように人間の生命を奪う異様な日々の中で、彼の精神は限界を迎える……。

このように遠隔地からの命令に従って自動的に動く無人のドローン・航空機・ヘリコプター・水上艦艇・地上車両は、すでに実用化されている。ただし、その命令者が精神的に不安定になり、ヒューマン・エラーを犯す危険性がある。

そこで、人間の代わりに高度な人工知能を搭載し、人間の命令や関与なく敵を抹殺する攻撃を行う「致死性自律兵器システム(LAWS: Lethal Autonomous Weapon System)」が考案された。LAWSの別名が「キラー・ロボット」である。LAWSが実用化されれば、戦争は全面的に機械に任せておけばよいことになる。

しかし、国際人権団体アムネスティ・インターナショナルをはじめとする世界60カ国の160以上に及ぶNGOは、2013年から「ストップ! キラー・ロボット」運動を続けている。その最大の理由は、人間の生殺与奪の権限を人工知能に委ねることが人間の尊厳に対する冒涜であり、「人権侵害」だとみなすからである。さらに、人工知能が戦闘員と非戦闘員を識別できずに国際法に違反して攻撃する可能性や、過度の苦痛を理解せずに人間に与える危険性も指摘されている。

本書の著者・ぬでしま次郎氏は、過去から現在に至る科学技術と戦争の歴史を概観し、人工知能兵器がどこまで許されるのか、兵士の心身強化改造の是非と人体実験の倫理的問題に踏み込む。とくにアメリカ合衆国国防省高等研究計画局の方針、フランス防衛倫理委員会意見書の分析は貴重であり、非常に興味深い。

本書で最も驚かされたのは、2020年のリビア内戦でトルコ製「Kargu-2」という「キラー・ロボット」が使用されたという指摘である。国連安全保障理事会の報告書によれば、リビア政府軍は退却中の反政府軍を無人戦闘機で攻撃し続けた。このシステムは「オペレーターと兵器間のデータ接続を必要とせずに目標を攻撃するようプログラミングされていた」というのである。リビア政府は公式に認めていないが、まさに『ターミネーター』の狂気の世界が迫っている。

国連に提出された「キラー・ロボット」開発研究中止提案は、アメリカとロシアの拒否権で否決された。我々は、とくに人命や人類の将来に関わる分野で、どこまで人工知能を信頼して何を任せてよいのか、議論を深める必要がある!


本書のハイライト

地球上のあらゆるところで、軍事大国の覇権争いが私たちの生活を脅かす度合いが高まり続けている。困難な国際情勢を前に、軍備の増強を進める動きばかりが目立つのは非常に気がかりだ。そんな今こそ、国防と市民社会の関係のあり方について、みなで真剣に考えなければならない。科学・技術と軍事の関わりを取り上げた本書がその一助になれば、この上ない喜びである。

(p. 197)


あわせて読みたい


『新書100冊』も好評発売中

前回はこちら

著者プロフィール

高橋昌一郎(たかはし・しょういちろう)
國學院大學教授。情報文化研究所所長・Japan Skeptics副会長。専門は論理学・科学哲学。幅広い学問分野を知的探求!
著書は『理性の限界』『知性の限界』『感性の限界』『フォン・ノイマンの哲学』『ゲーデルの哲学』(以上、講談社現代新書)、『20世紀論争史』『自己分析論』『反オカルト論』『新書100冊』(以上、光文社新書)、『愛の論理学』(角川新書)、『東大生の論理』(ちくま新書)、『小林秀雄の哲学』(朝日新書)、『実践・哲学ディベート』(NHK出版新書)、『哲学ディベート』(NHKブックス)、『ノイマン・ゲーデル・チューリング』(筑摩選書)、『科学哲学のすすめ』(丸善)など多数。

この記事が参加している募集

みんなにも読んでほしいですか?

オススメした記事はフォロワーのタイムラインに表示されます!

光文社新書ではTwitterで毎日情報を発信しています。ぜひフォローしてみてください!