（クリス・アンダーソン） どんな懸念がありますか？ Twitterの抱える問題について あなたはオープンに話してますが 現状に関して １番の懸念は何ですか？

（ジャック・ドーシー） 現在は 対話の健全性です 私たちの目的は 公共の場での対話に寄与することですが そこでたくさん攻撃を 目にしています 誹謗中傷や嫌がらせ行為 情報操作もあります 機械によるもの 組織的活動 誤った情報もありました こうした動きの数々は 13年前に起業したときには 予想していなかった事柄です しかし それが 規模を増しています １番の懸念は 我々がそういった問題に対し 大きな規模で体系的に 対処できるかということで 取り組みへの深い理解― 取り組みについての クリアな理解と 過ちが起きた際の 厳格な是正手続きが必要です 過ちは起きるものですから

（ウィットニー・ペニントン・ロジャース） 懸念されていると聞けて うれしく思います これまでに多くの人々が Twitter で誹謗中傷や 嫌がらせを受けており 女性や 有色人種の女性 黒人女性は特にそうです データにも示されています アムネスティ・インターナショナルの 数か月前の報告では 黒人女性の活発なユーザーの一部が 受け取るツイートの 平均１割が何らかの ハラスメントだということでした だから Twitter コミュニティの 健全性について— 「すべての人にとっての健全さ」について 伺いたいものですが 具体的には 女性や有色人種の女性 黒人女性のグループについて Twitterをどう安全な場に 変えていくのですか？

（ジャック）そうですね かなりひどい状況ですよね 何かのサービスを利用していて 理想的には 世界について 何か学びたいのに ほとんどの時間を 誹謗中傷や嫌がらせを受け その報告に費やしているなんて 今 最も深く掘り下げているのは プラットフォームとサービスが 自然に生み出す 動機そのものについてです 現在は サービスを通じて 他者に誹謗中傷をしたり 嫌がらせ行為をしたりするのが 非常に容易なシステムになっています 残念ながら これまでのシステムはもっぱら 人々が嫌がらせや誹謗中傷を 報告してくれるのに頼っていました なので 昨年の中頃に もっと機械学習を使おう この問題に深層学習を 適用しようと決め 誹謗中傷が起きる場で もっと積極的な対策を講じようとしています 被害者の負担を 完全になくすのが目的です 最近 進歩も見られました 約38%の誹謗中傷ツイートが 機械学習アルゴリズムで 自動的に検出されるようになり 報告する必要がなくなりました しかし 検出されたものは 人の目で確認しており 人による確認なしに 内容やアカウントの凍結はしていません とはいえ １年前の０%からは 進歩でしょう つまり ０%であったときは 誹謗中傷を受けた人が 皆 報告する必要があり 当事者にとっても 私たちにとっても大きな負担で 非常に不公平だったのです

もうひとつの取り組みは 企業として あらゆるコミュニティが 参画できるよう努めることです ビジネスを成功に導くには こうした問題を 日々実感している人々の 多様な視点を 内部に持たねばなりません 作業をしているチームだけではなく 上層部についても そうです 人々の経験に対して 共感を高め続ける必要があるし 行動を起こすのに役立つツールを 提供する必要があります ユーザーが目にしているものに もっとうまく容易に対処できる方法を 提供する必要もあります ですから 技術面での取り組みが 多いですが サービスが人々に与える 動機についても考えています Twitter を開いたときに 何をしたいと思わせるのか？ 過去には 怒りや 群衆行動 集団的嫌がらせも 多く誘発していました 大きな変革をするには サービスが何をしているのか本質的なことを 深く理解する必要があります 先ほど言った通り 技術面で 小さな変更は多くできますが 最終的には ネットワークそのものの 力学を深く理解する必要があり それが今取り組んでいることです

（クリス）ですが 実感としては― 実際に人々の行動を 根本的に変えるために どんなことができると 思いますか？

（ジャック）始めた当初は このサービスの基本に 「アカウントのフォロー」がありました これは ひとつの例ですが でもそれは 人々がTwitterを使う 理由ではないと思うんです Twitter は関心に基づいた ネットワークとして優れています 特定の関心を持って 利用されているんです 今は各自の関心に関係のあるアカウントを 探してフォローして回るのに 手間がかかります そうではなく 関心をフォローしたり ハッシュタグやトレンドや コミュニティを フォローするようにするのです そうすれば特定の話題や関心に 関係するアカウントや トピックや「モーメント」や ハッシュタグなどを すべて表示することが できるようになり 目に入ってくる視野が 大きく広がります とはいえ アカウント中心から トピックや関心を中心にするよう ネットワーク全体を移行するのは 大々的で根本的な変更です

（クリス）それほどまでに コンテンツが 豊富である理由のひとつは 世界中の何百万人もの人々に フォロワーや注目の争奪戦を させたからではありませんか？ Twitter で情報を得るだけの人には その変更は 問題ないでしょうが コンテンツを生み出す人々は 皆 こう考えていますよね 「いいねや フォロワーや リツイートをもっと増やしたい！」と 彼らは それを実現しようと 試行錯誤しています そして１番効果的だと 分かったのは 少し挑発的になったり 不快なことを言い立てたりすることです 声高な侮辱は Twitter で 注目されます すごい速さで反応が来ますから 炎上を自ら招く手法が できてしまうわけです それには どう対処しますか？

（ジャック）ええ その通りで それは動機の話に戻ります 初期に下した選択のひとつに フォロワーの数を表示する というものがあります その数字を大きい太字で 表示することにしました 大きく太字で表示されているものは 重要なわけで もっと上を目指そうとします 当時として正しい判断だったか？ 違うかもしれません サービスを最初から 作り直すなら フォロワー数は そこまで強調しないと思います 「いいね」の数も強調しません 「いいね」をする機能を そもそも作りませんね 現在 最も重要だと考えていることを 後押しはしてくれませんから ネットワークに健全な貢献をしたり ネットワークに対話をもたらしたり 対話への参加を促したり 対話から何かを学ぶことには つながりません こうしたことを 13年前には 考えていませんでしたが 今は非常に重要だと思っています

ですから フォロワー数を どう表示するか リツイート数や「いいね」を どう表示するかを考え 深く問いかけねばなりません 本当にこの数字を 追求させたいのか？ Twitter を開いたときに 「この数字を増やそう」と 思わせたいのか？ 今は そうではないと思います

（拍手）

（ウィットニー）ここで客席からのツイートも 少し見てみましょうか

（クリス）皆さんの質問を見ましょう これは Twitter の 素晴らしい点のひとつですね みんなの知恵を借りて 想像しないほど多くの 知識や問いや視点を活用でき その多くはとても 健全なものです

（ウィットニー）今 流れていきましたが 「2020年の米大統領選挙で 外国の介入にどう対処するのか？」 インターネットで一般的に 多く見られる問題ですね 自動化された悪意ある活動が 多く見られます たとえば Twitter については Zignal Lab による 調査結果が手元にありますが 今 お話ししていることの 良い例として見てみましょう 「ボット」というか 組織的な悪意ある 自動化されたアカウントが 選挙などを左右するのに 使われたりしています Zignal Lab 提供の こちらの例は Twitter から抽出した データを使っていますが ここから実際に分かるのは— ひとつひとつの点がアカウントで 白が人間のユーザーで 赤みが強いものほど 自動化傾向の強いアカウントです ボットと関わっている人間のユーザーが いくらか見られます このケースは イスラエルの選挙に関連したもので ベニー・ガンツに関する 虚偽の情報が広められています ご存じの通り 最終的に選挙結果は ネタニヤフが僅差で 勝利しましたが これに影響された部分も あるかもしれません Twitter 上の こうした活動について 具体的には 何をされていますか？ 虚偽の情報がいたずらに広まり 人々に影響して 民主主義を左右しないように 何をしていますか？

（ジャック）少し補足しますが 私たちも自問しました 実際に対話の健全性を 測ることはできるのか？ それがどういうことなのか？ 自分が健康かを測る上で 体温や顔色などの尺度を 人間として持っているのと 同じように 対話の健全性についても 尺度を見いだせると思います MIT の Cortico という ラボと共同して 手始めに４つの指標案を出しました 最終的には システム上で 測れるものだと思います １つめは「関心の共有度」です ある対話において どれほどが同じ話題に 収斂しているかどうかを測ります ２つめは「事実の共有度」です これは ある対話において 同じ事実を 共有している割合を測ります その事実が真実かどうかではなく 対話において 同じ事実が 共有されているかどうかです ３つめは「受容性」です ある対話のどれほどが 受容的かつ礼儀にかなったものか あるいは逆に不快なものかを測ります ４つめは「視点の多様性」です フィルターバブルや エコーチェンバー現象が起きているか それとも 対話において 様々な意見が見られるかを測ります この４つに共通するのは それが大きいほどに 対話がより健全なものになる ということです

第一歩はこれらをその場で 測れるかを試すことですが できると思います 「受容性」について 特に力を入れています 不快度のモデルを システム上に構築していて 不快であるとの理由から Twitter 上での対話から 立ち去る可能性を 実際に測定できます かなりの精度です その他についても取り組んでおり 次の段階は 解決策を講じるとともに これらの指標が時の経過とともに どう変化するかを観察し 実験を続けることです 目標はこれらをバランスよく 運用することです どれかを増やすと 他が減少することもあるでしょう 「視点の多様性」を上げることで 「事実の共有度」が下がる かもしれません

（クリス）多く寄せられた質問に 言及しますね

（ジャック）質問攻めですね

（クリス）多くの人が 疑問に思っているのは Twitter からネオナチを駆逐するのが どれだけ難しいのかということです

（ジャック）（笑）

暴力的な過激派集団に対する 方針があります 私たちの仕事や サービス規約のほとんどは コンテンツではなく 行動を対象にしています ですから 行動に着目しています つまり サービスを通じて 繰り返し あるいは散発的に 嫌がらせ行為をしたり KKK やアメリカ・ナチ党に 関連するような― 不愉快な画像を使ったり といったことです そういったものには 即 対処します 現状では この規約は 緩やかに運用されていて 誰かを責めるのに そういう言葉を ひと言使ったからといって プラットフォームから 除外することはしません ですから 私たちのモデルが 基づいているのは まず 暴力的な過激派集団に 関連するアカウントかどうか？ そうであれば 対処します KKK やアメリカ・ナチ党などについては すでにそうしています ２点目としては そういった団体に 関連付けられるような― 画像の使用や行動を しているかどうかです

（クリス）コンテンツ・モデレーションには 何人くらい関わっていますか？

（ジャック）色々ですね フレキシブルにしたいんです まず 人員をたくさん 雇い入れるのではなく アルゴリズムを構築したいと 思っているからです 大規模に行えなければ いけませんし 人海戦術では 追いつきません ですから 誹謗中傷を自動検出して 人がそれを確認できるよう 努力してきました 望ましい状況は アルゴリズムに常時 ツイートを精査させて 最も注意を引くものを トップに表示させることで 利用規約に基づいて 除去するかどうかを 人が判断できるというものです

（ウィットニー）問題の規模に 人手では対応できないとのことですが アカウントの監視は 現在何人がしているんですか？ それが十分であるかを 決める方法は何ですか？

（ジャック）まったくフレキシブルです スパムの対処を してもらうこともありますし 誹謗中傷や嫌がらせ行為に 対処してもらうこともあります 人員について柔軟性を保つことで 最も必要なことに 従事してもらえます 選挙であることもあります メキシコで一連の選挙があり 今度インドでもあります もちろん 昨年の 米国中間選挙もありましたね だから 人員については 柔軟にしたいと思っています 誰かが― たとえばですが 現在の利用規約にアクセスし ページを開いて 今受けたばかりの 嫌がらせ行為について 利用規約に反していると 報告できるかと調べるとします ページを開いて まず目に入るのは 知的財産権についてです 下にスクロールしていくと 誹謗中傷や嫌がらせ行為など 他の事柄について書かれています

うちの企業史で いつそうなったかは 定かではないですが 人々が最も情報を求めていて 行動を望んでいるものよりも上に そういうのがきています その順序自体が 何を重んじているかを 世界に示してしまっています ですから 変えようと思っています 順序をあるべきものに変えて ルールも簡潔にして 普通に読んで分かるものにします 規約違反かどうかを 利用者が 実際に理解できるようにしたいのです それから取り組んでいるのは― 被害者の負担を取り除くよう 注力するということです もっとテクノロジーの 裁量を増やして 人間の作業を減らします 誹謗中傷を受けた人の負担も 検証する人の負担も 減らすということです 努力しているのは 非常にネガティブなものに対する 対処を進めるだけでなく テクノロジーと 人間が創造性を発揮できる場の バランスをうまく取るということです ただ違反を見つけて報告する 機械的な部分だけでなく 規則に基づいて 判断するという部分でも そう考えています

（クリス）今の発言を 掘り下げたいのですが システムの基本デザインを 見直すための方法を 探っているのは とても良いことだと思います 反射的な行動を やめさせたり あるいは― トリスタン・ハリス風に言えば 人々の内省的な思考に 訴えるということでしょうか それはどこまで進んでいますか？ 「いいね」に代わるものは 何になるのでしょう？

（ジャック）そうですね まず何よりも このサービスについての 個人的な目標であり 私が信じていることは 公共の場での対話の重要性です 世界が直面している 人間の存在に関わる問題― 特定の国だけでなく 世界全体が直面している問題には 公共の場での議論に 利するものがあります Twitter 独特の力強さのひとつは 完全にオープンで 完全に公に開かれていて 完全に流動的なことです 誰でも あらゆる対話を目にでき 参加することができます 気候変動に関する話題もあるでしょう 人工知能によって 労働力が代替されることに関する 話題もあるでしょう 経済格差に関する話題もあります ひとつの国家が何をしようが 単独では解決し得ない問題です 世界全体での協力が必要ですし Twitter はそれに 役立てると思います

２つめは 現状では Twitter にアクセスしても 何かを学んだとは 必ずしも 感じないということです 学んでいる人もいます 中には 非常に 豊かなネットワークを持っていて 日々学びを得ている人もいると思います しかし その段階に到達するには 手間も時間もかかります ですから 人々がそういう トピックや関心事項にもっと早く 到達できるようにしたいのです それから 人々が必ず何かを 見付けられるようにしたい どれだけの時間を Twitter 上で過ごすにせよ― 利用時間を 最大化したいのではなく そこから得られるもの— そこから学べるものを 最大化したいんです

（クリス）本当ですか？ 多くの人が聞きたい 核心的な問いはそこなんです 「ジャック いろいろ制約が あるのは分かる 公開企業であるわけだし 出資者のプレッシャーもあるだろう 最大の収入源は広告であって ユーザーの利用度合いに 依存してもいる 本当に 必要とあれば ユーザーの利用時間を失ってでも 内省的な対話を促そうと 考えているのか？」と

（ジャック）関連性を高めると 利用時間が減るというなら それはそれで構いません Twitter を利用したときに すぐに何かを学べて 追求できるものが 見つかるようにしたいと思いますし それに広告をつけることはできます 広告を見てもらうために 長くいてもらう必要はありません ２つめの取り組みは―

（クリス）１日あたりの 利用についてですが それがそのまま 人々が価値を見いだしている内容の 量であるとは限りません おそらくは 火に集まる蛾のように 引き寄せられただけ ということもあるでしょう 中毒的になって 腹が立つ内容を目にして 火にさらに油を注ぐことをします すると １日あたりの利用が増えて 広告料はもっと入ってきますが 皆 お互いに対して もっと腹を立てるばかりです どう定義するんですか？ 「１日あたりの利用」は最適化するには 非常に危険なものだと思いますよ

（拍手）

（ジャック）単独では そうです もうひとつの指標について まだお話ししていません 対話や関連する一連のツイートにも 注目しています ネットワークに健全な貢献が 自発的にされるよう促したいんです それは 先程お話しした ４つの指標で定義されるような 健全な対話に参加する ということだと考えています

１つの指標についてだけ 最適化はできません バランスを取って 常に見守る必要があります ネットワークへの健全な貢献や 健全な体験を生み出すのは何であるかを 最終的には 人々が 「Twitter から何かを学んで 価値のある経験をした」と 思えるための指標を 目指しています それが最終的な目標ですが 時間はかかるでしょう

（クリス）多くの人は あなたを 謎めいていると思っていると思います ちょっとひどいかもしれませんが 先日夜にふと目覚めて あなたを取り巻く状況を こんな風にイメージしたんです 私たちはあなたと一緒に 客船「ツイッタニック」号に乗っていて―

（笑）

三等船室の乗客たちが 不安を表明していると あなたは 他の船長とは違って 「教えてくれ 話をしよう 君たちの話を聞きたい」と言う 人々が「前方にある氷山が 気がかりなんだ」と告げると あなたは「非常に良い指摘だ この船は 正直に言って うまく操舵できるように 作られてはいない」と言う 「どうにかしてくれ」と言うと あなたは船橋に行くが みんな やきもきして待っているのに あなたは やたらに落ちついた様子で 私たちは外から「頼むから 舵を切ってくれ！」と叫んでいる—

わかりますか？

（笑）

（拍手）

つまり―

（拍手）

危険にさらされているのは 民主主義であり 私たちの文化であり 世界なんです Twitter は素晴らしいもので 役立ってもいます 他のプラットフォームに比べれば 小さくても 影響力のある人々が 方向を示すのに使っています これ以上に世界で重要な役割は ないと思います― あなたは 人々の言葉に 耳を傾けていて素晴らしいけれど― 実際に緊急性をもって 物事を実行するという重要な役割を あなたは実行するんですか？

（ジャック）ええ 大きな行動を 起こしています Twitter の歴史には いくつか転換点がありました 私が会社に復帰したとき 将来の見通しは かなり悲惨なものでした プラットフォームの 利用のされ方だけでなく 企業のあり方としてもです ですから 企業としての 基礎を修正して 方向転換をしました ２度 大規模なリストラもしました 企業として大きくなりすぎていたんです それから 全エネルギーを 公共の場での対話に役立つという 理念に向けました 努力も必要でした 実際に深く取り組んでみて 根本的な部分の問題にも 気づきました 今 話に出たことに対処するため 表層的なことは色々できても 変化は持続するもので なければなりません だからこそ 深く掘り下げて 13年前に始めたことに しっかり目を向けて 問いかけなければなりません システムや枠組みが どう機能しているのか また 物事も利用の仕方も どんどん変わっていく中で 現在の世界は 何を必要としているのか できるだけ迅速に対応していますが 迅速さだけでは成し遂げられません 重点の置き方や 優先順位も重要ですし このネットワークの本質を理解し 規模の大きさや変化に 柔軟に対応できる枠組みを 構築しなければなりません 現状についてオープン かつ透明性を保って 信頼を得ることも必要です

実現にこぎつけた枠組みについては 誇りに思っていますし 方向性についても そうです もっと速く前進もできるでしょうが 過去のばかげた過ちの数々を 止めねばなりませんでしたので

（クリス）なるほど この場にいる多く人が 機会さえあれば 変革へのアジェンダについて 手助けしたいと思っているでしょう ウィットニーもそうでしょう ジャック 登壇してオープンに 語ってくれてありがとう 勇気が要ったと思います 非常に良いことを言ってくれました うまくいくことを願っています

（ジャック）ありがとうございました

（拍手）

ありがとう