都留文科大学とあるオタクサークルの日常。

都留文科大学のオタクサークル「アニメ・声優研究会」の公式ブログとして、活動記録などを掲載していきます!

【メンバー執筆】ロボットと人工知能⑤:人工知能と人間はどう付き合うか。

 

 こんにちは!
 「Ei」がお送りする連載記事の第5回目です。 
 更新が滞っておりますね.......。

 前回、人工知能の開発に関わる課題や思考実験の概念などをご紹介しました。(アニメ作品が1つも登場しないという......ね)

 今回はアニメ作品をきちんと扱います!
 「機械と人間の関係」という部分に主題を置きます。アニメ作品に登場する人工知能の話と、現実世界での人工知能の研究をあわせて紹介しながら、フィクションの凄さ、リアルの凄さを知って頂きたいです! 

PSYCHO-PASS サイコパス VOL.8 (初回生産限定版/2枚組)【Blu-ray】
BEATLESS BOX 4 [Blu-ray]
イノセンス(セル版)
サマーウォーズ
her/世界でひとつの彼女(字幕版)
マイノリティ・リポート (字幕版)
この記事で取り上げる作品等
(Amazon.comより)

 

この記事の目次

はじめに 
人工知能と人間の恋愛 
 ・愛は科学的であってもよいのか?
人工知能と監視と犯罪捜査 
社会を攻撃する人工知能 
第5回のまとめ 

 

 

 

 

はじめに

 

 今回は「機械と人間の関係」をテーマにしました。
 そのことについて少し補足説明をしておきます。


 「機械」という言葉を使った理由について。
 ずっとロボットや人工知能の話をしてきて、今回も人工知能の話であることに変わりはありません。ただ、「人間との関係」を考える時、その相手が何者であるかがとても重要になります。その時、ロボットや人工知能という分類よりも、もっと上位概念の「機械」という認識で考えることが多いはずです。


 姿かたちは人間に似ていても、言動が人間そっくりでも、やっぱり「機械」という根底部分の認識は変えられませんからね。
 一方で、今までの「使役する側/される側」という主従関係だけで人間と機械の関係を考えるのは難しいし、今後は変わっていくかもしれません。


 そういう訳で、今回は「機械と人間の関係」にしました。
 要するに、特に深い意味はありません(笑)

 

 

 

 

 

 

人工知能と人間の恋愛

 

 まず最初は、身近なところから。
 今回の記事の入り口には丁度いいかもしれないと思いました。

 人工知能が好きになったり、恋心を抱いたり、告白したり、付き合ったり、そういう話は色々なフィクションで描かれます。機械と人間の関係を考えるのに身近な話かもしれません。
 でも、フィクションの話だけでは無かったり......。

 

 

 

映画『her/世界でひとつの彼女

her/世界でひとつの彼女(字幕版)

映画『her/世界でひとつの彼女
(Amazon.comより)

  さっそくアニメではないですが...(笑)
 「人工知能の恋」というテーマの作品では一番有名だし、内容的にも素晴らしい作品だと思います!

【あらすじ】
 近未来のLAで、妻と離婚協議中のセオドア・トゥオンブリー。ある日、彼は人工知能型OS・サマンサと出会う。声だけしか聞こえないサマンサと会話をしていくうちに、段々とその魅力に惹かれていくトゥオンブリー。2人とその周りの人たちの姿を描いていく。

監督/脚本: スパイク・ジョーンズ
制作:アンナプルナ・ピクチャーズ
キャスト:ホアキン・フェニックススカーレット・ヨハンソン and more.
映画:2014年公開(120分)

映画『her/世界でひとつの彼女』予告編



 人工知能との、恋。
 現実世界に身体がない存在との恋愛がとても丁寧に、かつ艶かしく描かれていて、とても素晴らしい映画です! サマンサの姿は見えず、2人の会話だけで関係を構築していく様子とか、本当によく出来ています。これは一度は観ておくべき傑作です!


 そして、人工知能と恋するということ」の楽しい毎日や、一方で辛い現実なども描かれるので、色々と考えさせられる映画です。


 人工知能の声はスカーレット・ヨハンソン。そして日本語吹き替え版は林原めぐみさんが担当しています。この林原さんの演技が大人っぽくてセクシーで感情的でめっちゃ凄かったので、ぜひ吹き替えも聞いてみてください!

 

 

 

 

アニメ『BEATLESS

BEATLESS BOX 4 [Blu-ray]

アニメ『BEATLESS
(Amazon.comより)

  「人工知能との恋」というテーマを描いている作品のもうひとつが、長谷敏司さんの『BEATLESS』という作品です。より正確には【ヒトとモノの関係】を問うのがテーマの中心にあたります。(今回の記事のテーマもここから借りました)

【あらすじ】
 《hIE》というヒト型ロボットが社会的機能を担い、高度に自動化された行う22世紀。平凡な高校生アラトの前に、研究所から逃亡したhIE・レイシアが現れる。アラトがレイシアに好意を抱く中、2人は社会の形を変える事件に巻き込まれていく。

原作:長谷敏司
監督:水島精二
脚本:髙橋龍也, 雑破業
制作:ディオメディア
キャスト:吉永拓斗, 東山奈央 and more.
放送:2018年(全24話)
公式サイト

アニメ『BEATLESS』PV



 日本のSF作家の代表格、長谷敏司さん原作。
 ヒトとモノの関係を見つめ直しながら、社会のあり方を考え、未来をデザインしていくSFボーイ・ミーツ・ガールな物語です。


 この物語の核は「アナログハック」という概念です。
 ”人間の形をしたモノ”が、人間たちの無意識下で影響を及ぼして行動を変えるというもので、恋愛感情などがその代表格とされます。

 つまり、”人間の形をしたモノ”=ロボットや人工知能に対して、私たち人間の最大のセキュリティーホールは「感情や意識」という部分にある、ということです。


 物語としてはめちゃくちゃ面白いし、設定も凄いのですが、アニメにした時にちょっと弱いかなぁと思います。

 

 

 

 

中国MSの人工知能「小冰」


 人工知能との恋愛はフィクション?
 いいえ、決してそうとも言い切れません。



 人工知能「小冰(シャオアイス)」
 彼女は、2000万回以上も愛を告白されました*1

 「小冰」はMicrosoftが2014年に中国で開発した女性型の人工知能によるチャットボットです。2017年の時点で8,900万人以上が利用しています。

 ネット上の膨大な会話データを学習して違和感のない返信を実現しました。そして最大の特徴は、利用者の会話傾向を学習して、ユーザーに合わせた回答をすうパーソナライゼーションサービスな点です*2

Microsoft「微软七代小冰」より

Microsoft「微软七代小冰」ホームページより*3




 産経新聞は、


最近の中国では男女の人口バランスが崩れ、結婚適齢期の男性が女性より数千万人も多いとされる。女性とのコミュニケーションをネットに求める中国の男性たちの“寂しさ”が浮き彫りとなった格好だ。

と指摘していました*4



 人工知能と人間の関係を考える中で、「恋愛」というのは形として分かりやすいものの1つかもしれません。
 これを是とするか非とするかは、一人ひとりが考えていくべきものだと思います。

 

 

 

 

愛は科学的であってもよいのか?

 

 第1回目で紹介した、リラダンの小説『未来のイヴ
 この作品もまた恋とロボットの話でした。物語は、天才発明家エジソンが、恋に悩む青年のために人造人間「ハダリー」を作るというものです。


 押井守監督のアニメ映画『イノセンス』の冒頭で、『未来のイヴ』から引用がされています。


われわれの神々もわれわれの希望も、もやはただの科学的なものでしかないとすれば、われわれの愛もまた科学的であっていけないいわれがありましょうか
リラダン未来のイヴ

士郎正宗/押井守『イノセンス』より

士郎正宗/押井守イノセンス』より

 

 

アニメ『イノセンス

イノセンス(セル版)

アニメ『イノセンス
(Amazon.comより)

  押井守監督によるアニメ映画で、士郎正宗の『攻殻機動隊』を原作とした作品です。1995年の『GHOST IN THE SHELL / 攻殻機動隊』の続編にあたります。

【あらすじ】
 2032年、少女型の愛玩用ガイノイドハダリ」が突如暴走をし、所有者を殺害する事件が多発。公安9課のバトーとトグサが事件捜査に乗り出すが、その背後には日本社会の闇が隠れていた。

原作:士郎正宗攻殻機動隊
監督/脚本:押井守
制作: Production I.G
キャスト:大塚明夫, 山寺宏一 and more.
映画:2004年公開(100分)



 『攻殻機動隊』のシリーズ作品だし、押井守作品ということもあり、少々難解な部分も多いですが、物語としては最高級だし、アニメーションも素晴らしいです!

 物語的に、この「人工知能との恋愛」と直接関係しているわけではないので詳しくは書きません。未来のイヴ』の引用を紹介したかっただけなのでね

 

 

 

 

 

 

人工知能と監視と犯罪捜査

 

 「機械と人間の関係」の第一歩として「恋愛」を挙げました。どちらかというとハッピーな空気の話でしたかね(人によってはディストピア?)
 ここからは、完全に暗めの話に入っていきます。

 まずは、「監視社会と犯罪捜査」です。
 膨大な情報を分析することが可能な人工知能を用いることで構築することが可能となった高度な監視社会。高性能な人工知能による犯罪予測。

 これらはもはやフィクションだけの問題に留まりません。人間と社会の関係、人権の問題、人権問題に善悪の判断をさせるべきか否か、という議論の幕開けにいるのです。

 

 

アニメ『PSYCHO-PASS サイコパス

PSYCHO-PASS サイコパス VOL.8 (初回生産限定版/2枚組)【Blu-ray】

アニメ『PSYCHO-PASS サイコパス
(Amazon.comより)

  監視社会と犯罪捜査を描いたアニメ作品として最も有名で、かつ挙げやすいのは『PSYCHO-PASS サイコパス』でしょうね。傑作です。

【あらすじ】
 厚生省の巨大監視ネットワーク「シビュラシステム」によって人々の精神状態や心理傾向を数値化し、管理・監視する近未来の日本。主人公の常守朱は公安局の新米刑事として、シビュラに危険判定をされた潜在犯の確保に奔走する。

監督:本広克行 / 塩谷直義
脚本:虚淵玄, 深見真, 冲方丁
制作:Production I.G
キャスト:花澤香菜, 関智一 and more.
放送:第1期 2012年(全22話)
公式サイト

アニメ『PSYCHO-PASS サイコパス』PV



 名だたる制作陣による『PSYCHO-PASS』。
 設定も素晴らしいし、物語の内容も素晴らしいし、傑作と呼ぶに相応しい作品だと思います。ぜひ、視聴して頂けると嬉しいです!


 物語の世界では、街中に張り巡らされたスキャンシシステムなどの監視網によって、人々の精神状態が観察され、数値化されます。そして、既定値を超えた市民を「潜在犯」として更生施設へ収容することで社会の安全・安定を保っています。
 この判断をするのが、厚生省の人工知能「シビュラシステム」(正確には少し違う)です。人工知能が人々の生活を左右し、善悪の判断をする社会が描かれます。



 そもそも、人々の生活や精神を監視してよいのか、そしてその犯罪の判断を機械に任せてもよいのか、「潜在犯≒犯罪者予備軍」というまだ犯罪を犯していない人を裁けるのか、このあたりについて考えるのに最適な作品です。

シビュラシステムとドミネーター

シビュラシステムとドミネーター
(サイコパス原画展にて撮影)

 

 

 

中国の「天網・天算・天智」


 『PSYCHO-PASS』で描かれる監視社会。
 これもまた、決してフィクションと言い切れない状況が生じています。ここでは中国の例を取り上げますが、欧米各国でも人工知能による監視は行なわれています。


 中国の「天網・天算・天智」
 これは、中国全土を覆う監視ネットワークを構築するプロジェクトの名前です。

「天網」はネットワーク化を、
「天算」は画像高速処理化を、
「天智」は人工知能の応用を、
それぞれ表します。

 2015年に国家発展改革委員会の996政策では2020年の完成が示されました。また、2017年の全国公安科学技術情報化工作会議での公安部長の発言が620講話として指針になっています。
 この監視網は、単に顔認識をするだけでなく、人物の行動まで画像認識によって特定し、暴力や違法行為を発見・通報するシステムになっています*5

ascii.jp



 2019年時点で、中国では約2億台の監視カメラが設置されており*6、さらには新疆ウイグル自治区での監視による人権侵害も大きな問題になっています。
 加えて、このAI監視システムを世界各国に輸出しており、その数は60ヶ国以上。ミャンマーやイランなど人権抑圧が懸念される国の他、日本やドイツも含まれています*7。最近では、香港で民主派の活動家や識者に対する監視も強まっているとされます。

 

 

 

 

犯罪予測AI「Hunchlab」と「Hart」


 「AIによる犯罪予測」についてもご紹介。
 今までは中国の話ばかりでしたが、ここでは米国と英国の話です。(「犯罪予測」といっても『マイノリティ・リポート』とは少し違いますけどね)



 「Hunchlab」

 米国のシカゴ警察が導入した犯罪予測システムです。これは『PSYCHO-PASS』のように人物を直接測定するのではなく、特定の地区の犯罪発生確率を予測するものです。

 その予測は「1日内の時間や季節ごとの周期、天候や地域経済、過去の犯罪データなど様々な要因から犯罪の一定のパターンを見出す*8というものです。

 これにより、発砲事件は15%〜29%、殺人事件は9%〜18%ほど減少したという成果が挙がっています。

japanese.engadget.com




 「Hart」

 英国のダラム警察が2017年に試験導入を発表した犯罪リスク評価AIです。名前は「Harm Assessment Risk Tool(危険リスク評価ツール)」の頭字語となっています。

 このシステムは「容疑者や特定個人の犯罪の可能性を「低」「中」「高」の三段階に分類することが可能*9とされています。
 その他、容疑者を拘束すべきか否かや、その拘束期間などについてもAIが評価を出すことができます。もちろん、最終的な判断は人間が行うようです。

forbesjapan.com

 

 

 

 

 

 

社会を攻撃する人工知能

 

 物理的な意味で、社会を攻撃するAIの話です。

 監視や犯罪予測のAIは社会の安定などを目的としていると捉えることができます。一方で、ここで触れるのは社会に害をなす、攻撃をする側の人工知能です。

 

 

アニメ『サマーウォーズ

サマーウォーズ

アニメ『サマーウォーズ
(Amazon.comより)

 2019年に10周年を迎えた『サマーウォーズ
 もはや、夏の風物詩と言っても過言ではない名作ですね!

【あらすじ】
 通信や社会インフラが繋がったネット上の仮想空間オズ。世界一のセキュリティで守られたはずのオズが、謎の人工知能《ラブマシーン》に乗っ取られてしまう。数学の天才・高2の小磯健二は、ひょんなことから居合わせた陣内家の人々と世界を救うために奮闘する。

監督:細田守
脚本:奥寺佐渡
制作:マッドハウス
キャスト:神木隆之介桜庭ななみ and more.
映画:2009年公開(115分)
公式サイト

アニメ『サマーウォーズ』予告編



 細田守監督の『サマーウォーズ
 物語的にも面白いし、登場人物が多いのにそれぞれ個性が際立っているのが凄いし、何よりもあの花札のシーンは最高ですね!


 物語に登場する仮想空間「OZ(オズ)」
 インターネット上に存在する仮想空間で、ユーザーは各々のアバターでログインをし、交流やゲームを楽しみます。また、各種企業や行政機関も窓口を開設しているため、OZで支払いや手続きが可能です。
 最大の特徴は、ユーザーとアバターが紐付けられ、現実世界と同じ権限を行使できる点にあります。(例えば、水道局員・和雄さんのアバターは現実世界の水道管理をOZから行える*10

 したがって、人工知能《ラブマシーン》がOZのアバターを盗む度に、現実世界での権限を自由に操ることができるようになってしまいます。その結果、劇中ではインフラの混乱などが発生していきます。最終的にはアレも......

「よろしくお願いしまぁぁぁすっ!!」の原画

「よろしくお願いしまぁぁぁすっ!!」の原画
(細田守監督作品フィルムワークスギャラリーにて撮影)

 

 

 

マルウェア「Stuxnet」


 「スタックスネット(Stuxnet)」
 正確には人工知能とは無関係ですが、話の導入としては分かりやすいので、ここで挙げることにしました。

 簡単に言うと、コンピュータウイルスです。
 有名なのは、イランの事例。
 イランの核施設のコンピュータに感染したStuxnetは、計984台の遠心分離機を停止させ、さらにブシェール原発を制御不能にしました*11。これが世界に衝撃を与えました。

 というのも、社会インフラや産業施設の中でも原発などの重要施設はサイバー攻撃に対処するためにオフライン(=ネットに接続されない)状態で管理されます。しかし、感染してしまったわけですから。既存の施設が安全ではなくないと証明さたことになります。 (仕組とかはWikipediaでも読んでください)

xtech.nikkei.com

 

 

 

人工知能サイバー攻撃


 単なるウイルスでもヤバいわけです。
 ここに、人工知能が加わったら、どうなることか......。

 日々高度化するサイバー攻撃人工知能が使われると、大変なことになります。これまでのセキュリティが通用しなくなるのです。
 圧倒的な計算力と機械学習によって、従来の多層的な防御網は骨抜きにされる可能性があります。人間では発見出来なかったセキュリティホールを見つけたり、より高度な攻撃を仕掛ける可能性もあります。

 ただ、現時点で人工知能サイバー攻撃に用いられたかどうかは不明とされます。理由は、人間か人工知能か区別できないからだそう。



 もちろん、守る側も手をこまねいているわけではありません。「毒をもって毒を制す」というわけではありませんが、防御に人工知能を活用する動きがあります。

 MITではサイバー攻撃の85%を自動検出するAIを開発、さらに攻撃を受けるごとに学習して賢くなっていきます。ソフトバンクもAIによる企業向け自動監視サービスを提供し、NTTは不審な通信をAIが検出して遮断することで情報漏えいを防ぐ技術を開発しました*12

it-trend.jp

 

 

 

 

 

 

第5回のまとめ

 

 第5回はここいらで終わります。
 人工知能と人間の関係、機械と社会の関係をフィクションと現実の事件とを合わせて紹介してきました。どちらかというと事例紹介の感じが強いですけどね。



 まとめ、というか紹介した内容。

人工知能と人間の恋愛
人工知能と監視と犯罪捜査
・社会を攻撃する人工知能

 列挙するとシンプルですが、色々と作品を挙げたり、現実の事例を挙げたのでなんだかんだ長くなってしまいました。
 アニメを見ているだけだと単なるフィクションですが、現実とのリンクを知ると、作り話以上の面白さが増してくる気がします。

 また、記事内ではサラッと流してしまいましたが、BEATLESSの解説部分で触れた「アナログハック」という概念は、個人的に非常に重要な話だと思っています。で、ぜひ未読の方は目を通してみてください!(この記事の「はじめに」とも関わります)

redjuice

redjuice

BEATLESS』の核となるhIE《レイシア》
(redjuice個展にて撮影)




 あと、タイムリーな話題を1つ。
 先日、高校生棋士藤井聡太さんが棋聖戦に勝利しましたね。藤井さんはAIソフトと対局をすることで、今までの棋士には無い思考を養ったということがよく言われます。

 恐らく、事実なのでしょう。
 一方で、同じく元棋士加藤一二三さんが以下のようなツイートをして話題になりました。これもまた”機械と人間の関係”ですかね。




 次回は、人工知能の一番盛り上がるところを書こうかなーと思っています。どういう形になるかはまだ分からないのですけどね.......。乞うご期待ということで!

 

 

 

 

参考資料と課題


 今回は、短い動画を2本ご紹介します。
 「監視社会」に関するケビン・ケリーの談話です。


 今回の記事では中国の監視社会を取り上げました。また中国では人々を「芝麻信用」という社会信用スコアで数値化しており、『PSYCHO-PASS』と重なる部分も少なくないでしょう。さもディストピアであるかのように扱いました。
 一方で、中国では2019年から2020年の新型コロナウイルスの流行への対策として、政府による徹底的な監視・管理を行うことで感染を収束させました。

 中国はディストピアなのか? 欧米の方が自由なのか? 興味がある方はぜひ、4分くらいの動画をご覧ください。


アメリカと中国、自由か幸福か?」


「「共生的監視」は、「人々の自由」を奪うのか? 」




 ケビン・ケリーは『Wired』誌の創刊編集長です。
 また、この記事でも少し触れた、犯罪予測を議論する時に必ず名前が挙がる、スピルバーグ監督の『マイノリティ・リポート』の監修を手掛けました。

 マイノリティ・リポート』は、予知能力者によって犯罪を予測し、事件発生を未然に防ぐことが可能となった未来の米国が舞台のトム・クルーズ主演のSF映画です。
映画『マイノリティ・リポート』予告

 

 

 


 

 

 

【連載記事】

第1回:ロボットとアニメの歴史

 

第2回:アニメで考えるロボ倫理 

 

第3回:"SAO"に見るAIの種類と汎用人工知能

 

第4回:人工知能の開発課題と思考実験

 

第5回:人工知能と人間はどう付き合うか。

 

 第6回:AIは人間を破滅に導くのか?

 

  第7回:人間、意識、知能、生命とは何か?

 

 

 


 

*1:日本経済新聞「愛が生まれる日 絆、つなげるか 気がつけばそこに(2)」電子版、2017年1月31日付<https://www.nikkei.com/article/DGXMZO12212260X20C17A1SHA000/>(2020年7月17日最終閲覧)

*2:CAPA「AI用語集 小冰」<https://www.capa.co.jp/小冰>(2020年7月17日最終閲覧)

*3:Microsoft「微软七代小冰」<https://www.msxiaobing.com/>(2020年7月18日最終閲覧)

*4:産経ニュース「中国の恋愛難民男子がネット依存?! マイクロソフトの「女性型」人工知能 男女比率は4対1」2015年11月10日付<https://www.sankei.com/economy/news/151109/ecn1511090017-n1.html>(2020年7月17日最終閲覧)

*5:牧野武文(2019)「人の行動まで予測し、暴動や犯罪を未然に防ぐ 監視社会か防犯か、人工知能でつながる1.7憶台の監視カメラ|中国」ASCII、2019年4月22日付<https://ascii.jp/elem/000/001/846/1846766/>(2020年7月17日最終閲覧)

*6:日本経済新聞「監視カメラ、中国に密集」電子版、2019年11月23日付<https://www.nikkei.com/article/DGKKZO52478050S9A121C1FFN000/>(2020年7月17日最終閲覧)

*7:日本経済新聞「中国、AI監視技術を輸出 人権懸念国など60カ国超 抑圧利用恐れも、米調査」電子版、2019年12月16日付<https://www.nikkei.com/article/DGXMZO53393500W9A211C1000000/>(2020年7月17日最終閲覧)

*8:Kiyoshi Tane(2017)「米シカゴ市警、犯罪予測プログラム「Hunchlab」により凶悪事件を減少。過去データから「犯罪が発生しそうな地域」を巡回」2017年08月11日付<https://japanese.engadget.com/jp-2017-08-11-hunchlab.html>(2020年7月17日最終閲覧)

*9:河鐘基(2017)「防止から予知へ テロ相次ぐ英国で進む「AIx犯罪捜査」」Forbes JAPAN、2017年6月8日付<https://forbesjapan.com/articles/detail/16502>(2020年7月17日最終閲覧)

*10:サマーウォーズ公式サイト「仮想都市OZとは」<https://s-wars.jp/story/story_oz.html>(2020年7月18日最終閲覧)

*11:読売新聞「 [サイバーウォーズ](7)ウイルス 原発狂わす(連載)」 2011年9月28日付、東京朝刊

*12:ITトレンド「AIは人類の脅威?サイバー攻撃対策における人工知能(AI)の活用法とは」2020年03月12日付<https://it-trend.jp/cyber_attack/article/use_of_ai>(2020年7月18日最終閲覧)