【メンバー連載】ロボットと人工知能④：人工知能の開発課題と思考実験
こんにちは！
「Ｅｉ」がお送りする連載記事の第4回目です。
前回から、人工知能の話題に移りました。
全体的な話をしながら、アニメ『SAO』を引き合いに出して２種類のＡＩがあることを書きました。
今回は、アニメは登場しません！
ＡＩの開発や運用における課題や思考実験をいくつかご紹介します。ＳＦ好きなら聞いたことあるコトもあると思います！
この記事の目次
◯ ディープラーニング ▼
◯ チューリングテスト ▼
・チューリングテスト
・アラン・チューリング
◯ 中国語の部屋 ▼
◯ フレーム問題 ▼
◯ シンボルグラウンディング問題 ▼
◯ トロッコ問題 ▼
◯ 無限の猿定理 ▼
◯ 『探偵AIのリアル・ディープラーニング』 ▼
◯ 第4回のまとめ ▼
ディープラーニング（深層学習）
まずは、「ディープラーニング（深層学習）」という現在の人工知能の研究を支える開発手法について軽く触れていきます。
ちょっと書くタイミングを逃したので、ここで簡単に触れます。
めっちゃ簡単に言うと、「大量のデータを与えて、人工知能自身に学習をさせよう！」という方法になります。
ネコの画像認識の話が有名です。
Googleはネット上の画像やYouTubeの動画などのデータを人工知能に与え、「ネコ」を見分けられるように学習させました。
初期では単なる写真を認識するだけでした。
しかし、そこから丸や三角、四角などの形を認識し、さらにその組み合わせを見出します。丸の中に2つの点があり......と「顔」の概念を特徴から獲得していきます。三角の耳があったり、ヒゲがあったりと、「ネコ」と人間などネコ以外の動物との区別も出来るようになっていきました。
このネコの例以外だと、「手書きの数字を見分ける」といった研究例も取り上げられることもあります。
ディープラーニングは、大量のデータをＡＩに与え、ＡＩ自身がその「特徴」を抽出して学習するところが重要です。
従来は、人間がデータを編集して特徴を教え込んでいたために膨大な労力と時間がかかった上に、その精度は微妙なものでした。
しかし、ディープラーニングを用いることで量と質が向上し、精度も従来より高く間違いやエラーが少ない人工知能を作ることができるようになりました。
チューリングテスト
人工知能を語る上でまず最初に扱うべきは「チューリングテスト」と呼ばれる有名な性能調査です。
「チューリングテスト」とは
これは「機械がどれほど人間に近づいたか？」を測るテストで、1950年に英国の数学者アラン・チューリングが発表しました。
方法はシンプルです。
まず人間の判定者が、隔離された部屋にいる「機械」と「人間」それぞれに交信を行います。そして、判定者がどちらが機械でどちらが人間かを見抜けなければ、機械は人間的であると結論づけられます。
(Wikimedia Commonsより)
ここでは注意点がいくつかあります。
まず、交信では音声は使いません。
機械的な合成音声ではすぐに判別できてしまうので、一般的にはディスプレイに文章を表示し、入力はキーボードで行われます。
それから、「知性」は測れません。
このテストはいかに人間的な返答をするか、違和感がないか、区別がつかないかを判定するものです。なので機械に知性や魂があるかどうかを判定することはできません。
アラン・チューリングについて
1950年にこれを発表したチューリング。
彼のことも触れないわけにはいきません。
彼は「コンピュータの生みの親」とか「人工知能の父」などど呼ばれる天才数学者です。彼の功績を知るとどれほどの人物なのか分かるはずです！
(Amazon.comより)
ナチスの暗号機「エニグマ」の解読。
もっとも分かりやすい功績だと思います。
第２次世界大戦でヒトラー率いるナチスの快進撃を支えたのが、暗号機「エニグマ」です。解読不可能と言われたエニグマを用いることで、ドイツは連合国軍に情報を漏らすことなく軍事作戦を進行することができました。
数学者として英国の暗号解読組織に所属していたチューリングは、計算機を用いてこのエニグマを解読することに成功します。
これによってドイツ軍の動向が筒抜けとなり、かの有名な「ノルマンディー上陸作戦」などの成功に繋がり、連合国軍に勝利をもたらしたのです。
コンピュータの生みの親。
チューリングのもう一つの功績が「コンピュータの基礎」を築いたことです。
1930年代、演算処理を機械に実行させるための計算形式＝アルゴリズムの概念確立に寄与しました。
そして、1938年にはエニグマ解読用の計算機「Colossus」を開発します。
さらに1948年、世界初となる「コンピュータチェス」のプログラムを書きました。
これらの業績を残したすごい人！
その功績が認められ、2021年には英国の50ポンド紙幣に肖像が使われることになりました！
Introducing the face of the new £50 note - the father of computer science, Alan Turing.” Find out more https://t.co/pO7eu9nfHT #Turing50 #ThinkScience pic.twitter.com/RLmXD0QUQY
— Bank of England (@bankofengland) July 15, 2019
中国語の部屋
「中国語の部屋」という思考実験です。
これは先程の「チューリングテスト」を批判する形で、哲学者のジョン・サールが1980年に提言されました。
思考実験の内容は以下の通り。
小部屋にイギリス人を閉じ込め、ある仕事を与えます。
その仕事は、小窓から部屋に差し入れられる紙切れに書かれた記号を確認して、別の記号を書き加えて小窓へ返すという仕事です。
書き加える記号は、部屋にあるマニュアルで決められており、例えば「■●▲」には「□◯△」という具合です。
実は、紙に書かれているのは中国語の漢字なのですが、英国人の彼はその意味が分からず、記号としか目に映りません。
一方で、部屋の外では、「質問」を書いた紙を入れると「回答」に相当する返事が記入されるため、小部屋内の人間が中国語を理解していると考えます。
実際には、室内の英国人はマニュアル通りの作業をこなしているだけなのに、はたから見るとあたかも会話が成立していると思える、という状況になるのです。
(Wikimedia Commonsより)
少し長かったですが、以上が「中国語の部屋」です。
チューリングテストに対する批判はお分かり頂けたでしょうか？
趣旨としては、「機械は単にプログラム通りに動いているだけで、人間の意図を理解しているわけではない」ということを指摘しているのです。
ちなみに、ジョン・サールは前回の記事で書いた「強いAI・弱いAI」の概念を示した人物としても知られています。
フレーム問題
人工知能研究でも最大とされる課題です。
今までの「チューリングテスト」と「中国語の部屋」はどちらかというと思考実験に寄った内容でしたが、この「フレーム問題」はガチの研究障壁です。
長いですが、有名な例え話を紹介します。
ある洞窟内にロボットに必要なバッテリーが置いてあり、その上に時限爆弾が設置してあります。
研究者はロボット1号に「洞窟からバッテリーを運び出せ」という命令をします。ロボ1号は難なく洞窟内に入るとバッテリーを運び出すことに成功しました。
ところが、バッテリーと一緒に爆弾も運んでしまうことが理解できなかったため、洞窟から出た後に爆発してしまいました。
そこで研究者は、目的の遂行に伴って発生する副次的な事項を考慮するよう改良したロボット2号を送り出しました。しかしロボ2号はバッテリーの前で突如停止してしまい、あえなく爆発してしまいました。
これは、ロボ2号が「バッテリーを動かすと爆弾が爆発しないか？」、「動かすと天井が落下しないか？」、「近づくと壁の色が変わらないか？」......などあらゆる可能性を無制限に考えたことでフリーズしてしまったのです。
失敗を受けて研究者は、目的とは関係ない事項は無視するよう設定したロボット3号を設計しました。けれどもロボ3号は洞窟に入ることなく停止してしまいました。
その理由は、あらゆる事項が「バッテリー」と関係あるか否かを永遠に分類を続けてしまったことで、フリーズしてしまいました。
普段、私たち人間は何か物事を考えたり行動する時には、関係性や範囲など「枠組み（フレーム）」に当てはめて行います。これをごく自然に実行しています。
しかし人工知能には難しいわけです。
適切な枠組みを設定しないと、無限に、永遠に計算し続けてしまうわけです。
この問題をどう解決するのかが注目されています。
ひとつは、人工知能の用途を限定する解決策です。
特定の状況にだけに限定すれば、対応や設定を行うことも可能になります。
それから、ディープラーニングの技術。
ディープラーニングは大量のデータから人工知能が学習をし、共通点や特徴を抽出する方法です。これによりその分野の傾向や状況を掴むことができるため、枠組みを構築できるかもしれないと期待されています。
シンボルグラウンディング問題
「シンボルグラウンディング問題」
日本語では「記号設接地問題」と訳されます。
フレーム問題と並び、人工知能開発における難題とされている課題になります。
これも、有名な例を提示します。
シマウマを見たことがないＡさんがいます。
Ａさんに説明をする時、多くの人が「シマウマという動物は、縞模様のある馬のことだよ」と教えるでしょう。そしてＡさんが本物のシマウマを見た時、「あれがシマウマなのか」とすぐに分かるはずです。
これは、「ウマ」や「縞模様」という言葉（＝記号）の意味やイメージを持っているので、シマウマも想像することができるからです。
一方で、ＡＩにはこれが難しいのです。
ＡＩにとって「縞模様のある馬」は単なる記号の羅列にすぎず、「ウマ・縞」の本質を理解していないため、イメージすることが苦手だからです。
シマウマの例が最も有名です。
このように「シンボルグラウンディング（記号接地）問題」とは言葉（＝記号）を意味するものと結びつける（＝接地）ことが、ＡＩにとっては難しいという問題です。
この解決もディープラーニングが期待されています。
ディープラーニングによって人工知能自身が「シマウマとはこういうもの」という特徴を学習することができるからです。
トロッコ問題
トロリー問題とも言われます。
哲学者フィリッパ・フットが1967年に提示した思考実験です。
マイケル・サンデル教授の講義などで日本でも大きく取り上げられたりしていました。この思考実験は、現在はＡＩ開発でも重視されています。
内容は以下の通り。
”あなた”は線路の分岐点に立っています。
そこへ、制御不能になったトロッコが走ってきました。
このままだと、線路の先で工事をしている５人の作業員が轢き殺されてしまいます。５人を救うために分岐ポイントを切り替えると、別の線路で作業していた１人が轢かれてしまいます。
この状況の中で”あなた”はどうしますか？
(Wikimedia Commonsより)
このように、人間の道徳観や倫理観におけるジレンマについて考える思考実験です。
この思考実験は、現在研究が進んでいる「自動運転技術」の開発における議論の内容として取り扱われています。
人工知能を搭載した自動運転車が、人に衝突しそうになった時、誰を助けるべきかを設計する際の倫理議論に発展しているのです。
例えば、以下のような状況。
一台のAI搭載の自動運転車が走っています。
そこに対向車線からトラックが猛スピードで突っ込んできました。
このままではトラックと衝突して自動運転車は潰れ、乗員１人が死亡してしまいます。一方で、トラックを避けようとすると歩道の歩行者５人を轢いてしまいます。
この状況で、ＡＩはどうすべきでしょう？
また、自動運転車に乗っているのが、”赤の他人”なのか”あなた自身”なのかでその考えは変わるでしょうか？
歩行者５人を守る＝乗員を殺す判断をする自動車を、消費者は購入するでしょうか？
無限の猿定理
最後は、「無限の猿定理」というお話です。
もしかしたら、今までの話の中で一番シンプルかもしれないです。
内容は簡単。
猿にタイプライターと無限の時間を与えます。
すると、猿はランダムに鍵盤を叩きますが、いつかはシェイクスピアの作品と同じ文章をタイプする可能性がある、というもの。
これは、ランダムに文字列を作り続ければそのうちに意味のある文章が生成される、という定理の比喩として用いられます。確率や進化論などで用いられる話です。
さて、もし仮にシェイクスピアと同じ作品が完成した場合、これは猿の創造性が生み出した「創作物」と呼ぶことはできるのでしょうか？
現在、ＡＩが作り出した作品（絵画, 音楽, 小説......etc.）が次々に発表されています。これらＡＩが作った作品がＡＩの発想から生じたものなのか、単なる偶然なのか、「無限の猿定理」から派生した問題として考えられています。
ちなみに。
2004年にコンピュータを用いて行われた実験では、猿が「4溝2162穣5000垓年」の時間タイプしたところで、シェイクスピアの『ヴェローナの二紳士』の中にある19文字の文字列を打ち出したそうです。
早坂吝
『探偵AIのリアル・ディープラーニング』
(Amazon.comより)
思考実験とか課題の話は終わりです。
長々とお疲れ様でした！
最後に、書籍をご紹介します！
早坂吝『探偵AIのリアル・ディープラーニング』
（著者の名前は「早坂吝（はやさか やぶさか）」と読みます）
亡き父の遺した「探偵のAI・相以（あい）」と一緒に父を殺害した犯人を探す高校生が主人公の推理小説です。
かなり面白い物語です！
探偵の相似ちゃんが可愛いし、推理小説としてもとても上手く出来ています。それに、作中の言葉遊びがかなり楽しいです！
この小説をご紹介した理由。
それは、今回の記事の内容が物語の中にふんだんに取り入れられているからです。人工知能に関する思考実験とか研究課題を見事に作中で扱っています。
目次を見れば早いですかね。
ご覧の通りです。
このブログで私が色々と書いたものよりも、楽しく・分かりやすい説明がされています！ 重要な用語や概念を事件や推理と混ぜ合わせた自然な内容は凄かったです！
2019年に続編が発売されました！
ちなみに、表紙のイラストは、西尾維新さんの『化物語』等の挿絵を手掛けられているVOFANさんです！
第4回のまとめ
第4回はこれで終わりです。
前回に続き、人工知能のお話でした。
アニメの話が登場せず、もはや何サークルのブログか分からない内容になっていましたが、読んでくださった方はいらっしゃるのでしょうか......？(笑)
まとめというか、挙げた内容の反復。
・チューリングテスト
・中国語の部屋
・フレーム問題
・シンボルグラウンディング問題
・トロッコ問題
・無限の猿定理
覚える必要は無いと思いますが、色々と考えてみるのは面白いと思います！ 知っておけば今後役に立つかもしれませんしね。
次回は、もっと面白い....はずです。
内容は迷っているところですが、ちゃんとアニメ作品を扱うので、どうぞご期待いただければ幸いです！
参考資料と課題
今回は、映画を載せておきます。
ご紹介した アラン・チューリングを描いた素晴らしい映画です！
(Amazon.comより)
映画『イミテーション・ゲーム』
この映画は、ナチスの暗号機「エニグマ」の解読を行うチューリングを描いたもので、彼の半生がとても見事に描かれています！
演じるのはベネディクト・カンバーバッチ。
BBCのドラマ『SHERLOCK』で絶大な人気を獲得し、アメコミ映画『ドクター・ストレンジ』などでも主演をした俳優です。
彼のイメージがチューリングにぴったりで、とてもいい映画です！
【連載記事】
第1回：ロボットとアニメの歴史
第2回：アニメで考えるロボ倫理
第3回："SAO"に見るAIの種類と汎用人工知能。
第4回：人工知能の開発課題と思考実験
第5回：人工知能と人間はどう付き合うか。
第6回：AIは人間を破滅に導くのか？
第7回：人間、意識、知能、生命とは何か？
第8回：生命、宇宙、万物についての究極の疑問の答え
