5年ほど前に 私は突然 気付きました 自分は 考え方の違う人と 付き合う能力を失ってきている と 微妙な問題について アメリカ人同士で 議論しようと考えたときの 胸焼けのような感覚が 海外で過激派と思われる集団と 関わったときよりもひどくなり始めていました 後味の悪さと苛立ちが 強く残るようになったのです そう気付いた途端に 私の関心は 国家安全保障上の国際的な脅威から 国内の二極化圧力の原因を理解することへと すっかり変わりました 私は かつて CIA職員や外交官として 過激思想の問題への対策に 年月を費やしてきましたが 私たちの民主主義にとっては この二極化が 海外のどの敵よりも 遥かに重大な脅威になると 恐れるようになりました そこで これを深く掘り下げ 公の場で声を上げ始めたところ それをきっかけにある時 フェイスブックで働くことになり さらに結果的に 今ここを訪れて 皆さんに これらのプラットフォームが いかに多くの人々を操り 過激化させているか 警告をお伝えし 開かれた議論の場を いかに取り戻すか お話ししようとしています 私は外交官としてケニアで働きました 同時多発テロ事件の ほんの数年後のことです またソマリア国境沿いで 「ハートと心」の作戦と呼ばれる 活動を指揮していました 主な任務は 過激派の影響が 最も及びやすいとされる地域で 現地との信頼関係を築くことでした 西洋ぎらいの無遠慮な聖職者たちと 何時間も お茶を共にしたことも テロリストとおぼしき人物と 対話したこともあります やりとりの多くは 相互不信から始まりましたが 怒号や侮辱の応酬で 終わった記憶はまったくなく 利害の一致する分野で 共同作業をしたことさえありました 私たちの持っていた最強のツールは 相手の話をひたすら聞き 学び 気持ちを通わせるというものでした これが「ハートと心」の活動の本質です というのも 私が何度も経験したように ほとんどの人々が望むのは 自分の声が届き 認められ 尊重されていると感じることだったからです 私たちの大半も 同じことを望むはずです

それで 今のネットで見られる事態には 胸の張りさける思いがしますし 遥かに対策の難しい問題とも 感じられるのです 私たちは 現在の情報システムの 生態系に操られており 余りにも多くの人が 極端な思想に染め上げられて 妥協という言葉も禁句に なってしまいました というのも 現在 フェイスブックなどの ソーシャルメディアの収益源が 私たちを分類した上で 偏見を正当化し悪用するような 個人化コンテンツを送り付けることだからです 彼らの最終損益を左右するのは 強い感情を掻き立てて 投稿や共有を続けさせることなので 最も扇動的で極端な意見を 奨励することとなりがちで 結果的に お互いの共通点を探すことも 不可能と感じるほどになりました また そんなプラットフォームの 変更を求める声がどんなに増えても 企業が自ら十分な対策を 講じないのは明らかです そこで政府は こうしたビジネスモデルから 実生活に及ぼされる悪影響についての 責任を明確にして 私たちの公衆衛生や 開かれた議論の場や 民主主義に与えた損害に関する 全ての費用を払わせなければなりません ただ残念ながら それも 米大統領選には間に合わないでしょう それで 私は警告を発し続けています なぜなら いつか強い規制が 実現したとしても 解決には私たち全員の力が 必要だからです

自分の関心が 海外の脅威から 国内の社会的な対話の崩壊へと 移ったとき 私は「ハートと心」の作戦の一部が 私たちの分断の修復にも 転用できるのでは と考えました 200年以上かけて培った 民主主義が 成果をあげている大きな理由は 私たちは 熱い 開かれた議論を通じて 最良の解決策を見出すことができるからです ただ 私は直接会って得られる 相互理解の力を 今でも深く信奉する一方 それだけでは 現在のソーシャルメディアの二極化効果と 規模には 太刀打ちできないと考えます ソーシャルメディアの暴力という アリ地獄に呑み込まれた人々を 観念的な思考から解放するのは かつての不安定地域での活動よりも 遥かに難しいと感じることも よくあります

そこで2018年に フェイスブックからの電話で 選挙における政治広告を 適正に運営する責任者という 役割を提示されたときには これは受けねば と思いました 自分が全て解決しようなどという 幻想はなかったものの 船の針路をより良い方向へと 導くことを手伝う機会が与えられるというなら 断る手はありませんでした 業務で二極化を直接扱いは しませんでしたが この社会を分断する 一番の問題が何なのか またそれ故に 選挙妨害に 一番弱い部分がどこなのかには着目しました そこを ロシアが2016年の選挙で 戦略的に攻めたからです まずは疑問点を挙げてみました こんな事態の発生を許した システム上の問題点を理解した上で 解決方法を見つけたかったのです

私は今でもインターネットには より多くの意見を 引き出す力があると信じていますが コミュニティの構築という 公に掲げた目標にもかかわらず 現在 築き上げられた 巨大ソーシャルメディア企業は 理性ある対話という概念とは 真逆の存在です 人の話に耳を傾けることに報いたり 開かれた議論を促したり 真摯に質問したい人々を保護したりする 手段が全くありません このビジネスでは ユーザ関与の最適化とユーザの増加が 成功のために最も重要な ２つの指標になっているからです 人々が関与する前に 一旦落ち着かせて 立ち止まらせるような 干渉機能を設けて 何かに感情的な反応を していると気付かせ 憶測を自省させるような試みへの 動機付けはありません 不幸な現実があります オンラインでは 真実よりも嘘の方が興味をそそり わいせつな話題が 真面目で事実に基づく論理を追いやります それが干渉なく拡散をすることに 最適化された世界なのです アルゴリズムの目的が 私たちに 関与を続けさせることである限り 彼らは 最悪の本能や 人間の弱点を引き付ける毒薬を 私たちに送り続けるでしょう 確かに 怒り 不信 恐れの文化 憎しみ どれも アメリカでは 目新しいことではありません でも 近年 ソーシャルメディアが これら全てに付け入って 劇的に局面を変えたと 私は考えます そしてフェイスブックも それを知っています 『ウォールストリート・ジャーナル』誌の 最近の記事で フェイスブックの 2018年の社内報告が暴露されました その報告は 自社のアルゴリズムが フェイスブック上の 過激派グループの存在感を強め ユーザの二極化を招くと 特定していました でも 私たちに関与を続けさせるのは 彼らの金儲けの手段です 現代の情報環境は徹底的に 私たちの属性を抽出し それを 細かいカテゴリーへと 細分化し続けて 個人化プロセスを突き詰めます それが済むと 人々の見解を追認し 偏見を助長し 自分が何かに帰属していると 感じさせるような情報が 大量に送り付けられます これらはテロリストのスカウトが 無防備な若者に対して 使うのと同じ手口です ソーシャルメディア以前は 小規模で地域別に行われていましたが 相手の行動を変えさせるという 最終目標は同じです

残念ながら 私はフェイスブックを 変える程の力は与えられませんでした 実際 ２日目には 肩書と 職務の内容が変更されて 意思決定をする会議からも 外されてしまいました 政治広告から ニセ情報や投票妨害を 排除するための計画の策定に 私は一番力を注ぎましたが 提案は却下されました 結局 私が働いたのはわずか半年弱です ただ そこで働いたことで 得られた一番の気づきは次のことです フェイスブックの社内では 何千人もの人が より良い世界を作ると心から信じる機能に 情熱的に取り組んでいます しかし会社がこのまま コンテンツの指針や調停機能について 枝葉をいじくり回すだけで 仕組み全体の設計と収益の上げ方を 見直さない限り このプラットフォームがもたらしている 憎しみや分断や過激化への 真の対策は決して実現しないでしょう そして 私の在籍中に そんな話は 全く耳にしませんでした なぜなら そのとき求められるのは 自ら構築したものが 社会にとっては最善でないかもしれないと 認めることであり 全ての機能と収益モデルの変更に 同意することに他ならないからです

では私たちには何ができるでしょうか？ 私はソーシャルメディアのみに 今の事態の責任があると 言っているのではありません 明らかに 私たちは解決すべき 根深い社会問題を抱えています でも これが社会を映す鏡に過ぎないという フェイスブックの回答は 全ての責任を免れようとする 体のいい方便であって 自社のプラットフォームが 有害なコンテンツを増幅して 一部ユーザを過激思想に駆り立てていることは 省みていません

しかも フェイスブックはその気があれば 一部を解決できるのです 陰謀論者やヘイトグループや ニセ情報を広める人たちの発言を 広めたり お勧めするのは やめることができます そう ときには大統領の発言もです 政治的発言を広めるのに スニーカー販売と同じ 個人化テクニックを使うのも やめることができます アルゴリズムを再学習させて ユーザの関与以外の指標に 焦点を当てることも ある種のコンテンツが チェックの前に拡散しないように 防御壁を設けることもできます そして これら全てを行うのに 彼らが言う「真実の決定者」に なる必要はありません

しかし自ら明言したとおり 彼らは強制されなければ 正しい方向に踏み出すことは ないでしょう 正直なところ その必要がありますか？ 市場の評価は高く 法律を犯している訳でもありません なぜなら 今のところ 米国の法律では フェイスブックを含む いかなるソーシャルメディア企業も 開かれた議論の場や民主主義 それに選挙すら保護する義務がないのです 開かれた議論の場や民主主義 それに選挙すら保護する義務がないのです 私たちは どんなことを制限し 何を強制するかという意思決定を 利益重視のネット企業の CEOたちにゆだねてしまっています 私たち こんなものが欲しいのでしょうか？ 有害情報や部族主義が 架け橋や総意形成に勝るような 真実を見失った世界が？ 私は今でも 自分たちのお互いの共通点は 今のメディアやオンライン環境が 描くよりも多いと楽観しています また より多面的な物の見方が より堅固で開かれた民主主義を 作り上げると 信じています でもそれは 現在とは違う形のものです 強調しますが 私はこうした企業を 葬り去りたい訳ではありません ただ 社会の他のメンバーと同じように ある程度の責任を 果たしてもらいたいだけなのです 今こそ政府が立ち上がって 国民生活を守るという 職務を果たす時です 魔法のように ひとつで全てを解決する 法律ができるとは思いませんが 政府が言論の自由を守りながら 企業に社会的影響の責任を取らせるような うまいバランスを見出すことは 可能であり 必要であると信じています しかも 政府は 透明性を強く要求することで ある程度はそれが実現できます 透明化が必要なのは 推奨エンジンの働き方と まとめサービス 増幅 そして ターゲティングのやり方に関してです

お察しのように 私が企業に 責任を取らせたいのは 一個人が流した虚偽の情報とか 極端な表現についてではなく 彼らの推奨エンジンが その投稿を拡散させるやり方や 彼らのアルゴリズムが 人々をその投稿に誘導するやり方や 彼らのツールがその投稿を ターゲティングする方法に対してです 私はフェイスブックの内部から 変革を試みて失敗しました ですから ここ数年は 再び自分の声を使って 警告を発し続けながら これに触発されて 責任を追及する声が さらに高まることを願っています

私から皆さんへのメッセージはシンプルです 地元の議員に圧力を掛けて 開かれた議論の場を 営利団体に 明け渡すのを止めさせるのです 友人や家族にも 皆がオンラインで いかに操られているかを 教えてあげてください 考え方の違う人たちとも 付き合う努力をしてください この問題を優先して扱ってください これを解決するには 社会全体の取り組みが必要です

ここからは 以前の雇用主である フェイスブック首脳陣へのメッセージです 現在は 人々が貴社のツールを 設計されたとおりに使い 憎しみや分断や不信が生み出されています それを許しているだけでなく それを可能にしているのが貴社なのです 確かに 世界中で貴社のプラットフォームの 良い面が発揮された 素晴らしい話も沢山あります だからと言って この問題が 帳消しになる訳ではありません 我が国の選挙が 近付くにつれ 事態は悪化するばかりですし さらに心配もあります 選挙結果が信用されず 暴力が発生すれば 最大の危機が訪れる可能性があるのです ですから2021年に貴社が 「改善の余地があるのは確かだ」などと 繰り返すなら 今この時を 思い出して頂きたいと思います これはもはや 単なる少数意見では ないのですから 市民権運動のリーダーや 学界や ジャーナリストや 広告主や 貴社自身の社員たちが 声高に叫んでいます 貴社の方針とビジネスのやり方が 人々と民主主義を傷つけていると 決定権は貴社にありますが 想定外だったと言うことは もうできません

ありがとうございました