世界

スリープウォーカーズポッドキャスト:人工知能が私たちを監視し、私たちを判断しています

今は見ませんが、人工知能があなたを見ています。人工知能はスパイを強化する強力な力を持ち、権威主義政府と民主主義の両方が政治的および社会的統制のツールとしてこの技術を採用しています。

AI監視の可能性はSleepwalkersポッドキャストの3回目。このエピソードでは、AIがどのように電力と制御を統合するかを検証し、この厄介な傾向を制限できるかどうかを尋ねます。

アプリとウェブサイトから収集されたデータは、すでに広告とソーシャルフィードの最適化に役立ちます。同じデータから、誰かの個人的な生活や政治的傾向を当局に明らかにすることもできます。スマートフォン、スマートカメラ、およびより高度なAIのおかげで、この傾向は進んでいます。

スタンフォードで開発されたアルゴリズム2017では、写真から、人はゲイです。正確であろうとなかろうと、そのようなツールは迫害の新たな機会を生み出します。

「このタイプの技術を利用して、市全体のCCTV監視システムに供給し、サウジアラビアのような場所に行きます。同性愛者であることは犯罪と見なされます」と、デジタル社会学者のリサ・タリア・モレッティは言います。 「突然、あなたは同性愛者であるため、人々を路上から引きずり出して逮捕しています。コンピューターがそう言ったからです。」 。激しい競争と個人データへの無類のアクセスのおかげで、そこでのAI産業は繁栄しており、AIの台頭により、情報、言論、自由の政府による厳格な管理が可能になっています。

顔認識は、監視映像で犯罪者を捕まえ、軽犯罪を犯した者を公に恥じるために使用されます。最も厄介なのは、AIがイスラム教徒を迫害するために中国西部の新jiangで使用されていることです。中国は現在、その技術をテクノ弾圧の原則とともにパキスタン、カンボジア、ラオスを含む国々に、ベルトアンドロードイニシアティブを通じて輸出しています。

中国のAI能力が誇張されて、そこにあるAIブームは個人の自由にゾッとする影響を及ぼしている、とグローバルな政治的リスクの専門家であるIan Bremmerは言います。ユーラシアグループの創設者。 「その能力を獲得し、それを知ろうとし始めている政府が必要です。そして、例として並べられているような少数の人々がいて、突然誰もが怖がっています」と彼は言います。

これは遠い現実のように思えるかもしれませんが、同様のツールが開発され、西洋で使用されています。米国の刑務所から仮釈放を求める際にアルゴリズムの判断に直面したグレンロドリゲスに聞いてみてください。

にもかかわらず10長年の良好な動作、ロドリゲスは、アルゴリズムが収容者の再犯の可能性を予測するために設計されたCOMPASは、彼に対して偏っています。そして仮釈放委員会はコンピュータープログラムのアドバイスに反し、彼を解放したにもかかわらず、アルゴリズムの推奨外出禁止令を課すことに同意しました。 「私はまだCOMPASに悩まされています」とロドリゲスは警告します。

法執行機関はAIを採用しています。このエピソードは、顔の認識を含むニューヨーク警察署のテスト技術で締めくくります。 AIは部門の効果と説明責任をさらに高めることを約束していますが、この厄介な傾向を受け入れるかどうかは、西側が独自の形式の技術専制に夢中になるかどうかを決定する可能性があります。

SleepwalkersのホストであるOz Woloshynは、次のように述べています。 「バランスにはあまりにも多くの問題があり、私たちの決定は私たちの生活に深く影響し、子供たちの生活に響き渡ります。」


その他の素晴らしいWIREDストーリー

Related Articles

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

Close