子供の頃 私はごく典型的な オタク少年でした。皆さんの中にも いるでしょう。

観衆：(笑)

そこで大声で笑った人 あなたは今もそうでしょう。

観衆：(笑)

北テキサスのほこりっぽい平原の 小さな町で育ち 父は牧師の子で 保安官をしていました。トラブルを起こすなんて論外です。それで趣味として 解析学の本を読むようになりました。

観衆：(笑)

あなたもですか？ それでレーザーやコンピューターや ロケットなんかを作るようになり さらには自分の部屋で ロケット燃料まで作りました。科学用語で言うと これは 「とってもまずい考え」です。

観衆：(笑)

同じ頃 スタンリー・キューブリックの 『2001年宇宙の旅』が劇場公開され 私の人生を永遠に 変えることになりました あの映画の すべてが好きで ことに HAL 9000が 好きでした HALは 知覚力のある コンピューターで 宇宙船ディスカバリー号を 地球から木星へとガイドすべく 設計されていました HALにはまた 性格上の欠陥があり 最終的に人間の命よりも ミッションを優先させます HALは架空のキャラクターですが 私たちの恐怖を 呼び起こします 人間に無関心な 感情のない人工知能に 支配されるという恐怖です。

そのような恐怖は 根拠のないものです 私たちは実際 人類史の中でも 目覚ましい時代にいます 肉体や精神の限界を 受け入れることを拒み 精緻で美しく 複雑で優雅な機械を作り それが我々の想像を 超えるような仕方で 人間の体験を 拡張することになるでしょう。

私は空軍士官学校を出て 宇宙軍で働いた後 システム屋になりましたが 最近 NASAの 火星ミッションに関連する エンジニアリング上の問題へと 引き寄せられました 月へ行くのであれば ヒューストンの 地上管制センターから 飛行の全過程を 見守れます しかし火星は月より 200倍も離れています そのため 信号が地球から 火星に届くのには 平均で13分もかかります トラブルが起きた場合 そんなに待ってはいられません 妥当な工学的解決策として オリオン号の壁の中に 管制機能を設けることにしました ミッション概略にある 別の面白いアイデアとして 人間型ロボットを火星表面に 人間が行く前に送って 施設を作らせ その後は 科学者チームの一員として 働かせるというのがあります。

これを工学的な観点で見て 明らかになったのは ここで設計する必要があるのは 賢く 協力的で 社会的な人工知能 だということです 言い換えると 何かHALのようなものを 作る必要があるということです ただし殺人癖は抜きで。

観衆：(笑)

少し立ち止まって 考えてみましょう そのような人工知能を作ることは 可能なのでしょうか 可能です 何にせよ これは人工知能の 要素がある 工学上の問題であって 得体の知れない 人工知能の問題ではありません チューリングの言葉を 少し変えて言うと 知覚力のある機械を作ることには 関心がありません HALを作ろうとは していません 私がやろうとしているのは 単純な脳 知性の幻想を 提供する何かです。

HALが映画に現れて以来 コンピューターの科学と技術は 大きく進歩しました HALの生みの親のチャンドラ博士が ここにいたなら 我々に聞きたいことが 山ほどあるはずです 何百万 何千万という デバイスを使い そのデータストリームを読んで 故障を予期し 前もって対処することは できるのか？ できます 自然言語で人間と会話するシステムを 構築することはできるのか？ できます 物を認識し 人の感情を判断し 自分の感情を表現し ゲームをし 唇の動きすら読めるシステムを 作ることはできるのか？ できます 目標を設定し その実現のための計画を実行し その過程で学習するシステムを 作ることはできるのか？ できます 心の理論を備えたシステムを 作ることはできるのか？ これは我々がやり方を 学ぼうとしていることです 倫理的・道徳的基盤を持つシステムを 作ることはできるのか？ これは我々がやり方を 学ぶ必要のあることです このようなミッションや その他のことための 人工知能を作ることは 可能であると 認めることにしましょう。

次に問わなければ ならないのは 我々はそれを怖れるべきか ということです どんな新技術も 常にある程度の怖れは 引き起こすものです 始めて自動車を 目にした人々は 家族が壊されるのを見ることに なるだろうと嘆いたものです 始めて電話機を 目にした人々は 礼儀にかなった会話が 損なわれると懸念したものです 書かれたもので 溢れるのを見た人々は 記憶力が失われるのでは と思ったものです ある程度は合っていますが そういった技術は 人間の体験を 根本的に広げてもくれました。

さらに話を進めましょう 私はそのような人工知能を 作ることに怖れは感じません それは人間の価値観を 体現することになるからです 認知システムを作るのは 従来のソフトウェア中心のシステムを 作るのとは 根本的に異なります プログラムするのではなく 教えるのです システムに花を 認識させるために 私は自分の好きな 何千という花を見せます システムにゲームの遊び方を 教えるには — 私だってゲームはしますよ 皆さんもでしょう？ 花だって好きだし らしくないですか？ 碁のようなゲームの遊び方を システムに教えるには 碁を何千回も指させ その過程で 良い盤面・悪い盤面を 識別する方法を教えます 人工知能の弁護士助手を 作ろうと思ったら 法律も教えますが 同時に法の一部をなす 慈悲や公正の感覚を 吹き込むでしょう 科学用語では これを グランドトゥルースと言います 重要なのは そういう機械を作るとき 我々は自分の価値観を 教えることになるということです それだから私は 人工知能を きちんと訓練された人間と同様に 信頼するのです。

でも悪いことをする工作員や ある種の資金豊富な 非政府組織なんかの 手にかかったなら？ 一匹狼の扱う人工知能には 怖れを感じません あらゆる暴力から 身を守れるわけではありませんが そのようなシステムには 個人のリソースの範囲を 大きく超えた 膨大で精妙なトレーニングが 必要になります さらにそれは 単にインターネットへ ウィルスを送り込むより 遙かに大変なことです ウィルスならボタン１つで そこら中のパソコンが 突然吹き飛んで しまうでしょうが そういうたぐいの 実体はずっと大きく それがやってくるのは 確かに目にすることになります。

そういう人工知能が 全人類を脅かすのを 怖れるか？ 『マトリックス』『メトロポリス』 『ターミネーター』みたいな映画や 『ウエストワールド』 みたいな番組を見ると みんなそのような恐怖を 語っています 『スーパーインテリジェンス (Superintelligence)』という本で 思想家のニック・ボストロムは このテーマを取り上げ 人間を超える機械の知能は 危険なだけでなく 人類存亡の危機に つながり得ると見ています ボストロム博士の 基本的な議論は そのようなシステムはやがて 抑えがたい情報への渇望を 抱くようになり 学び方を学んで 最終的には人間の要求に 反する目的を 持つようになる ということです ボストロム博士には 多くの支持者がいて その中にはイーロン・マスクや スティーヴン・ホーキングもいます そのような聡明な方々に 恐れながら申し上げると 彼らは根本的に 間違っていると思います 検討すべきボストロム博士の議論は 沢山ありますが 全部見ていく 時間はないので ごく簡単に １点だけ挙げるなら 「すごく知っている」のと 「すごいことができる」のとは違うということです HALは ディスカバリー号のあらゆる面を コントロールする限りにおいて 乗組員にとって脅威でした スーパーインテリジェンスも そうです それが世界全体を支配している 必要があります スーパーインテリジェンスが 人の意志を支配する 『ターミネーター』の世界で スカイネットは世界の あらゆるデバイスを 操っていました 実際のところ そんなことは 起こりません 天気を制御したり 潮の干満を決めたり 気まぐれで無秩序な人間を 従わせるような人工知能を 我々は作りはしません もしそのような人工知能が 存在したら 人間の経済と 競合することになり リソースを人間と 取り合うことになるでしょう 最終的には Siriには内緒ですが 我々は電源プラグを 引っこ抜くことができます。

観衆：(笑)

私たちは機械と 共進化していく ものすごい旅の 途上にあります 今日の人類は 明日の人類とは違っています 人間を超えた人工知能の 台頭を懸念するのは コンピューターの台頭自体が 引き起こす 対処を要する 人間や社会の問題から 注意をそらすことになり 危険です 人間の労働の必要が 減っていく社会を どうすれば上手く 運営できるのか？ 理解と教育を 地球全体に広げつつ 互いの違いに敬意を払うことは どうすれば可能か？ 認知システムによる医療で 人の生涯を 長く豊かなものにするにはどうしたら良いか？ 星々に到るために コンピューターは いかに役立てられるか？

これはワクワクすることです コンピューターを使って 人間の体験を 発展させられる機会が今 手の届くところにあり、それは始まったばかりです。

ありがとうございました

観衆：(拍手)