世界

悪いアルゴリズムは民主主義を壊さなかった

過去50年間にわたって、薬物乱用の拡散は基本的にファンタジーであるというファンタジーによって、アメリカの麻薬戦争が動機づけられ、組織されてきました供給の問題。したがって、救済策は麻薬の生産と流通を制限することでした。カルテルを粉砕し、人身売買ルートを焼izeし、ディーラーを逮捕します。このアプローチは、予想通り、もぐらたたきの自立型ゲームに発展しました。

2016年以来、misinformationに関するパニックオンラインは同様のファンタジーによって推進されています。この見解に基づいた議論は身近なものになり、ほとんど定型的です。最近の例の1つは、コメディアンのSacha Baron Cohenによる11月のスピーチです

、デマゴグは私たちの最悪の本能に訴えかけます。かつてはフリンジに限定されていた陰謀説が主流になりつつある」と俳優は語った。 「あたかも証拠の議論の時代である理性の時代が終わりつつあるかのようであり、知識はますます非合法化され、科学的コンセンサスは却下されています。バロン・コーエンが言ったように、これらの傾向の背後にあるものは「非常に明確」です。「この憎しみと暴力はすべて歴史上最大のプロパガンダマシンに匹敵する少数のインターネット企業によって促進されています。」

2020年2月。WIREDに登録する。

写真:Art Streiber

麻薬戦争と同様に、このアカウントの主な悪役はベクターです:social media企業とその推奨アルゴリズムは、不合理なコンテンツのウイルスのpro延を引き起こします。ポピーやコカを育てる農民のように、ミームを出所させた人々は、非難されていないようには描かれていません、正確に、しかし、彼らの行動は、他者によって設計されたインセンティブを反映していると理解されています。 FacebookおよびGoogleおよびTwitter

そしてユーザー?テクノロジー投資家で批評家のロジャー・マクナミーが言うように、「気づかない」オンラインビジネスに取り組んでいます。「プラットフォームはこの動作のすべてを上流で調整します。」Techの批評家はさまざまなソリューションを提供します。ユーザーが投稿したもの、またはコンテンツをその真理値で選別することを要求するため。

この物語がとても魅力的である理由は容易に理解できます。大手ソーシャルメディア企業は大きな力を享受しています。それらのアルゴリズムは不可解です。彼らは公共圏を支えるものの適切な理解に欠けているようです。広範囲にわたる深刻な批判に対する彼らの反応は、壮大で陰鬱なものです。 「ハイテクプラットフォームがどのようにパワーを集中させているかについて人々が懸念していることは理解していますが、実際、もっと大きな話はこれらのプラットフォームがどれだけ持っているかだと思います分散化パワーを直接人々の手に入れることで、」ジョージタウン大学での10月のスピーチでマーク・ザッカーバーグが言った。 「私は今日、ここにいるのは、私たちが自由な表現を支持し続ける必要があると信じているからです。」

これらの企業が伝染性のミームに対する自分の経済的利益について公然と話したら、彼らは少なくとも正直に見えるでしょう;彼らが自由な表現の言語で自分自身を守るとき、彼らは悪意の告発に対して自分自身を開いたままにします。

これらの会社、特にFacebookが自由言論について話す理由は単に誤った情報の複製における彼らの経済的利害を隠すこと。また、彼らのプラットフォームを引っ張ってくるものに対する本当の過失は、ユーザーにあると示唆することも彼らにとって丁寧な方法です。レガシーゲートキーパーとは対照的に、Facebookは常に中立的なインフラストラクチャとして存在しています。好きなものを投稿したり、自分の好きなものにアクセスしたりできます。ザッカーバーグが「自由な表現」について語るとき、彼は需要のレベルを追求するために供給が解放される市場の神聖さを説明しています。彼が示唆しているのは、パルチザンのプロパガンダの苦しみは、供給の問題ではなく、需要の問題を反映しているということです。一般的な欲望の深く透明な表現です。

これは気の遠くなるような防御かもしれませんが、些細なことではありませんカウンターへの引数。過去数年にわたって、Facebook、YouTube、およびTwitterは何らかの形で私たちの悪口の条件を作成しました。さらに、新しい規制やアルゴリズムの改革が「証拠的議論」のアルカディア時代を取り戻すかもしれないという提案は、精査に耐えられませんでした。 2016年の選挙直後、「偽ニュース」という現象マケドニアの10代の若者とロシアのインターネット調査機関によって広まったことは、ソーシャルメディアによる民主主義の大規模な倒錯の省略形になりました。 1年後、ハーバード大学のバークマン・クライン・センターの研究者は、ひどく偽のニュースの流通は「物事の全体計画において比較的小さな役割を果たしたようだ」と結論付けました。カナダ、フランス、米国の学者による最近の研究は示していますそのオンラインメディアが実際に使用する減少する米国での右翼ポピュリズムのサポート。別の研究では、33万件の最近のYouTubeビデオを調べました。その多くは右端に関連しており、ますます極端なコンテンツの配信を担当するYouTubeの推奨エンジンを支える強力な「アルゴリズムの急進化」理論の証拠はほとんど見つかりませんでした。

ある研究や別の研究がどのように破綻するかに関係なく、テクノロジー企業は、手に負えない表現の価値についての抽象的な議論を好む理由があります。彼らは古典的な自由主義の言語を採用することを選んだ。なぜならそれは彼らの自由主義の批評家を不快な立場に置くからだ。隣人の一部のサブセットを自分の要求から保護しなければならないと主張するのは受け入れがたい。そもそもこれらの要求の信ity性に疑問を呈することはさらに悪いことです。隣人の欲求が本当に自分のものではないことを示唆するためです。批評家は、「アストロターフィング」のような鉢植えなアイデアに頼って、善良な人々が悪いことを要求するようになる可能性があることを説明する必要があります。

経験的であるよりも便利です。数十億人のユーザーの好みに対応するよりも、少数の企業に対してレバレッジを行使する方法を想像する方がはるかに簡単です。光がより良い場所で鍵を探すのはいつも魅力的です。より良い解決策は、たとえそれが暗闇を覗くことを意味するとしても、人々が要求するものを企業と同じくらい真剣に受けとめることを技術の批評家に要求するだろう。


需要の現実を正直に考えるための最初のステップは、政治的二極化がソーシャルメディアの台頭よりもずっと前からあることを認めることです。 2006年にFacebookが壁に囲まれた果樹園を開いた頃には、米国はすでに40年を費やして2つの広いキャンプに分けていました。エズラ・クラインは彼の新しい本で指摘していますなぜ偏光されているのか。 1960年代の初めに、民主党と共和党はどちらも自称自由主義者と保守党を含んでいた。その後、公民権法の成立とリチャードニクソンのサザン戦略により、「正しい」見解のコンセンサスセットをめぐって各政党が合体しました。人種は元の活断層であり、目立ったままでした。しかし、他の見解の星座はしばしばシフトし、グループ加入のより単純な問題に次第に二次的になりました。

多くのテクノロジー批評家は、約15年前にソーシャルメディアの台頭を広大なものとして見ていますクラインは、「フィルターバブル」と部族の分類の時代を先導したシフトを、加速するよりも本来の原因ではないと説明します。特に、個人のすべての信念と好みを、短いながらも強力な瞬間だけで見るように促した場合潜在的な単一の政治的アイデンティティの潜在的な表現としての脅威。 FacebookとTwitterは、各ユーザーに1つのペルソナを割り当て、プロファイル、履歴、および前例のないリーチのシグナル伝達装置を割り当てました。ユーザーは、一貫性を保つために、新しく鋭い種類の公共の圧力に直面し、一貫性を構成する可能性のある手がかりをコミュニティの他のメンバーにしか求められませんでした。

オフラインでも、人々は微妙に引きずり込まれていましたまたはそうでなければ、ますますcr屈な党派のアイデンティティに。クラインは、政治学者のリリアナ・メイソンの研究を利用して、政治的二極化が政治的所属という見出しの下で他の点では無関係なアイデンティティの「積み重ね」をもたらした方法を説明します。同じ信仰のメンバー、同じ町の住民、同じ音楽のファンとして、明らかな政治的価値を持たない軸の数に沿って互いに連帯を表明したことがあるかもしれませんが、これらの所属の多くは、 2000年代、米国政治で提供されている2つの旗艦「メガアイデンティティ」の下でタグ付けされ、包含されていました。

これらの2つの側面のどちらも、他なしでは存在できませんでした。 「私たちは誰なのか」を定義することなく、「私たちは誰なのか」という強い感覚。キャンプ間のすべての重要な境界線の建設と取り締まりは、ソーシャルメディアの時代に生きていることの日々の負担の一つのように感じられるようになりました。

そしてソーシャルメディアの役割に関しては、どれもKleinが見ているように、このことは意図的または避けられないものでした。「注目を集めて戦争に勝つ方法は、コミュニティの力を利用してアイデンティティを作成することであることに早くから気づきませんでした」と彼は書いています。 「しかし、勝者はすぐに登場しました。そのメカニズムは完全には理解されていませんでした。」

ただし、ソーシャルメディアが独自に獲得した洞察は、所属は、マニケア分極への貢献を説明するには不十分だと思われます。ソーシャルメディアは、多くのキャンプの活気あるバザールである、豊かな自閉症の提携の世界を生み出した可能性があります。また、インターネットノスタルジストの長い間、オンラインIDが断片化される可能性がありました。それらの前世時代の個人は、それぞれが適切なコンテキストで表現された一連のアイデンティティを快適に含むことができました。クラインが指摘しているように、プラットフォームがより総合的な連携を奨励しているという事実は、ソーシャルメディアでそのようになっていないという事実は、多くの批評家が装置が装備されていると疑う理由の1つであり、私たちはそうではない私たちが望むものが与えられるのではなく、むしろ何らかの悪の力が私たちが望むものを与えられる。ソーシャルソート自体が最も永続的な優先順位である可能性があるという考えを考慮するよりも、「アルゴリズム」の不断のバグベアを呼び出す方がはるかに簡単です。


最近の記事inThe New York Times Annalee Newitzは、「ソーシャルメディアが壊れている」というおなじみの概念を表明しました。しかし、少なくとも1回読むと、意図したとおりに正確に機能しています。 Facebookは、難解な場合でも深刻な需要理論に基づいて、または少なくとも資金提供されて、欲望の起源と養成を説明するものに基づいています。

2004年7月、投資家とPayPal共同設立者Peter Thielは、スタンフォード大学で現在のイベントについて議論するための小規模な会議の開催を支援しました彼の元指導者であるフランスの文学評論家であり、自己スタイルの人類学者ルネ・ジラールとともに。ティエルは9/11をきっかけに「現代政治の基礎の再検討」を提案し、シンポジウムは明らかに終末論的な記録で進められました。 「今日」、ティエルはエッセイで彼がイベントに貢献したと書いている。「ただの自己保存は、私たち全員に改めて世界を見て、奇妙な新しい考えを考えさせ、それによって非常に長く有益な知的時代から目覚めさせるティールは、ジョン・ロックと社会契約の希望的概念に基づいた政治文化によって「人間の暴力の問題全体が白塗りされた」と書いた。彼は人間の不合理性と復geのより満足のいく説明のためにジラードに頼らなければならないと信じていました。

ジラードが持っていたように、私たちは模倣への依存によって種として定義され、構成されています。しかし、私たちは単なる一次模倣ではありません。他の誰かがしていることを猿にしたり、他の誰かが持っているものを欲したりするとき、私たちは実際に彼らが望むものを欲しています。 「人間は、何を望むかわからない生き物であり、彼は他の人に頼って決心する」とギラードは書いた。 「私たちは、他人の欲望を模倣するため、他の人が望むものを望みます。」私たち自身のarbitrary意的な欲求にコミットすることができず、他の人、より強く、より決定的な人に似せようとします。エミュレートしたいモデルを特定したら、自分の欲望のオブジェクトを自分のものにするように訓練します。

このすべての模倣またはミメシスの感情的なサインは賞賛ではありませんしかし、en望を消費します。 「「ジョーンズに追いつく」過程で」とティエルは書いています。「ミミシスは人々の競争をエスカレートさせます。」私たちはエミュレートする人々にresします。他のスクリプト。ジラールが持っているように、あらゆる社会の存続可能性は、この罪悪感を管理する能力に依存しており、「すべてに対するすべて」の暴力に定期的に噴出しないようにします。

その頃2004年のシンポジウムであるThielは、Facebookという小さなスタートアップに50万ドルの投資をしていました。彼は後に、最初の外部投資家になるという決定がジラードの影響によるものであると考えました。

「ソーシャルメディアは見た目よりも重要であることが判明しました。 ニューヨークタイムズ2015年のジラールの死を契機に。「Facebookは口コミで広まりました。口コミについてですので、二重に模倣します。」特定の投稿やプロファイルを好んでフォローし、拡張するため、Facebookアルゴリズムは私たちが目指している人々の種類を認識するように訓練され、提案された改良を私たちに義務付けています。プラットフォームは、Zuckerbergのように単に需要を満たしているわけではありませんが、実際にはそれを作り出していません。ある意味、彼らはそれを屈折させています。個別の欲求のセットに分割され、統計的有意性の線に沿ってコホートにグループ化されます。これらのプラットフォームが可能にするコミュニティの種類は、偽造されたコミュニティではなく、単に発見されたコミュニティです。

批評家のジェフ・シュレンバーガーが指摘したように、Facebookはこれらのコミュニティを育てました。一定の単純な模倣強化で構成されています。これは、物語の半分だけがかなり暗くなります。ギラードは、神話や古代の歴史において、模倣競争の悪い血をスケープゴートに対する暴力に置き換えることで、人間社会がどのように平和と安定を獲得したかを詳しく説明してきました。 「すべてに対するすべての戦争は、社会的契約ではなく、1つのすべてに対する戦争に至ります」とThiel氏は書きます。「同じ模倣軍が徐々に戦闘員を特定の人に団結させます。」

古代の宗教、ジラードは、この血に飢えたプロセスを含む高度な儀式と神話を主張しました。そして、キリスト教は、罪のないスケープゴートのはりつけを中心とした宗教であり、その残虐性の啓示により、力学全体の超越を約束しました。 (ジラールは、ティエルと同様にキリスト教徒と公言されていました。)

問題は、ティエルが見ているように、私たちが今、幻滅した時代に住んでいるということです:「古風な儀式はもはや機能しません彼は2004年に書いた。模倣の暴力をエスカレートする危険性は、彼の見解では明らかであり、無視されていた。当時の彼の懸念は、9月11日に起きた世界的なテロリズムでしたが、後に、不平等が拡大する時代の投資家階級に対するresみも心配するようになりました。 Thielの本の共著者によって2012年にオンラインで公開された一連のメモZero to One、Thielは技術創始者をギラルディアンの意味で自然なスケープゴートと特定しています:「99%対1%は、この古典的なスケープゴーティングメカニズムの現代的な表現です。」

Thielの先見の明な投資Facebookのソーシャルメディアプラットフォーム(Shullenbergerは「スケープゴーティングマシン」と呼びます)の力に対する信頼のしぐさとして解釈され、真の暴力を新しい象徴的な代理に置き換えます。つまり、ソーシャルメディアは、私たちの手つかずの欲望のカオスに焦点を合わせて整理すると同時に、私たちの手つかずのアニムの潜在的な暴力に焦点を合わせて整理するのに役立ちます。ソーシャルメディアを発散する機会、そしてときどき怒り狂ったオンライン暴徒に参加する機会は、現実の生活で人々を傷つけるという私たちの潜在的な欲求から私たちを解放するかもしれません。ソーシャルメディアの意見の不一致を暴力と同一視する多くの非常にオンラインのレトリックを却下するのは簡単ですが、ギラードのアカウントでは、この融合は象徴的な利害関係の正確な認識を反映している可能性があります。応援されるべき進化のステップです。これが人類の歴史で一度も起こらなかった理由は、広範で費用のかからないシグナリングインフラストラクチャがないためです。

Shullenbergerは、Thielがこれをすべて直観した可能性が高いことを示しています:ソーシャルメディアは、最も抵抗の少ない経路で、この種の安価な象徴的なソートだけでなくしかし、最終的に対称バージョンです。最終的には、99パーセントではなく1パーセントではなく、象徴的な双極宇宙における広大な仮想膠着状態です。屈折した欲求の巧妙なアルゴリズムによるソートに基づくアフィニティは、弱くバインドされています。 「私たち」が誰であるかについての壮大で実質的なビジョンがない場合、「彼ら」の首尾一貫したde落から強さと確実性を引き出します。

これに関連するのは簡単です。私たちのほとんどは、ヘテロドキシと規律の欠如により、自分のチームの良さと純粋さに完全に満足することはめったにありません。私たちは対戦相手の均一な悪役として解釈するものに深く満足しています。例えば、リチャード・スペンサーのようなネオナチと並んで、カナダの学者で自助の第一人者ジョーダン・ピーターソンと同じくらい愚かな誰かが「悪者」の中に自信を持ってどのように含まれているかを考えてください。私たちは、自分たちのキャンプで行うよりもはるかに大きな喜びで、敵にわかりやすい連帯を求めて賞賛します。シュレンベルガーは、ティエルに関する彼のエッセイの一つにそれを置いている。「権力の地位にいる者に対するそのような力による脅威についてあからさまに懸念している人にとって、決定的な利点は、目標は、非常に鮮明なゲームの安定した永続性に均等に配分された仮想の拮抗作用です。

Facebookは実際の政治の現実の世界から恒久的な象徴的対立の世界を切り離すかもしれないという、本当にティエルのアイデアでした。それは完全にシニカルなものでした。民主主義に対する彼の国民の疑念、哲学者レオ・ストラウスのオカルトエリート主義への敬意、そしてトランプとの関係に基づいて、彼が現実を管理すべきであると考える方法が十分に明確です:彼とザッカーバーグのような人々によって、私たちの一部は私たちの生活のオンラインビデオゲームに気を取られています。 (によると、ウォールストリートジャーナル、Thielは依然としてFacebookの役員として「特大の影響力」を発揮しています。)振り返ってみると、ソーシャルメディアが最悪の模倣衝動をリダイレクトする可能性があるという考えは、皮肉なだけでなく壊滅的な誤りです。 Facebookから溢れ出てミャンマーとスリランカの現実の世界、そしてあなたの見方によっては米国にも波及した非常に非象徴的な暴力をどのように説明し始めることができるかは不明です。

最終的には、少数のサプライヤの力をユーザーの不幸な要求のせいにすることはますます受け入れられなくなってきているため、企業のそれよりも真剣に、人々の欲求が現実であるという要求の事実を真剣に受けとめるのは技術の批評家になります。これらの欲求には、「アルゴリズム」をはるかに超える救済の形が必要です。特定の声明が真実かどうかを心配することは、公共の事実チェッカーやメディアリテラシープロジェクトがそうであるように、ポイントを逃すことです。誰かのタトゥーが本当かどうかを尋ねるのと同じくらい意味があります。徹底的な需要側の説明により、実際にはずっと部族主義である可能性があります。私たちには欲望と優先順位があり、彼らには彼らがあり、両方のキャンプがそれぞれの需要を満たす供給を探します

ただし、好みがグループアイデンティティに根ざしていることを受け入れるからといって、すべての好みが道徳的にまたはその他の点で等しいと信じる必要があるわけではありません。それは単に、私たちの負担が政治的メッセージの供給を制限または緩和すること、または偽りの信念を持つ人々を真のものに置き換えるよう説得することとはほとんど関係がないことを意味します。むしろ、課題は、他のチームにその要求を変更するよう説得することです。彼らは、彼らが異なる願望でより良くなると確信させるためです。これは技術的なプロジェクトではなく、政治的なプロジェクトです。


ストーリーの小売リンクを使用して何かを購入すると、小さなアフィリエイトコミッションを獲得する場合があります。 の詳細についてはこちらをご覧ください


Gideon Lewis-Krausは、有線。 彼は最後に書いた

    26.07号のブロックチェーンプラットフォームTezosについて

この記事は2月号に掲載されています。 今すぐ申し込む

この記事についてのご意見をお聞かせください。 mail @ wiredでエディターに手紙を送信します。 com


政治をリブートするためのガイド

Chris Evans Goes to Washington

  • 国連事務総長と技術と民主主義について語る
  • アメリカの統一国家の大統領候補者
  • この悪名高いトロールは、人々を過激主義から遠ざけることができますか?
  • Related Articles

    コメントを残す

    メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

    Close