世界

会話型AIは社会的ステレオタイプを促進できる

Alexa、Siri、Watson、および彼らの話しているAI兄弟は、私たちの生活を楽にするのに役立ちますが、性別のステレオタイプも強化します。 AlexaやSiriのような丁寧で従順なデジタル秘書は女性として紹介されます。断定的な、すべてを知っているJeopardy!チャンピオンのワトソンは、ほとんどの場合「彼」と呼ばれます。AIの新世代はこれにより、この問題はより深刻になり、回避するのがはるかに難しくなります。分野が拡大するにつれて、デザイナーは、より広大な世界を作成し、性別の近い世界を複製しないようにする必要があります。

昨年の夏、ユネスコは「トラブル」に対する警告を発表しましたジェンダー化されたAIの影響。研究者たちは、世界中の何百万人もの人々と対話する現在の多くの音声ベースのAIシステムが、性別がないと主張する場合でも、しばしば女性の声で話すことが多い理由について綿密な調査を推奨しました。 AIと性別の問題を調査して対処する努力は称賛されるべきですが、レポートの著者などは重要な点を見落としています。それは、代名詞や声の特性を変えるだけの問題ではありません。 AIのジェンダーステレオタイプの問題を真剣に攻撃するには、システムの音声だけでなく、もっと多くの注意が必要です。

WIRED OPINION

ABOUT

Sharone Horowit-Hendlerは博士課程の学生ですSUNYアルバニーの言語人類学で、性別研究に重点を置いています。彼らの今後の論文、Navigating the Binary、は、非バイナリコミュニティでのジェンダープレゼンテーションの研究です。 James Hendlerはコンピューターサイエンスの教授であり、Rensselaer Polytechnic Instituteのデータ探索および応用研究所の所長であり、人工知能の進歩協会。彼らの最新の本Social Machines:The Coming Collision of Artificial Intelligence、Social Networks and Humanity(Apress、2017)は、AIテクノロジーの新たな含意について議論しています

今日のシステムは、AIラボから会話型の工業製品に移行しつつあります。ポケットアシスタントの回答形式。これらの新しい「ソーシャルマシン」は、マルチメディア、マルチメディアの意思決定インタラクションのパートナーになりつつあります。たとえば、最も近い中華料理店に関する単一のユーザーのクエリに答えるのではなく、あまり遠くない将来の会話型AIエージェントは、外食する場所を選択するために人々のグループと協力することができます。このようなAIは、グループのメンバーとして参加します。「ボブとビルが中国人を欲しがり、メアリーがタイ人が好きなら、なぜ融合が通りにないのか?」と言うかもしれません。または、もっと簡単にジャンプすることもあります。「OK、それでは融合の場所に行きましょう。」

会話の音声パターンは、スピーカーの声または外観。たとえば、アメリカの標準文化では、男性は会話で「スペースをとる」ことが多いと文献で説明されています。男性はより頻繁に割り込んで、より多くの言葉を使い、社会的礼儀正しさを避け、より確実に話します。一方、女性はステレオタイプに話すことが少なくなり、より丁寧に話をし、聞くことのより多くの肯定と兆候を与え、口述するのではなく提案します。さらに、トーン、速度、単語の選択、その他の小さな変更により、参加者のスピーカーの認識が変わる可能性があります。

一部の人がによって問題に対処しようとした場合ジェンダーレスのデジタル音声を使用したシステムの作成、彼らはまだ重要な機能を見逃しています。音声のないチャットボットでも、ユーザーはこれらの会話機能に基づいて男性または女性の性別を特定できます。前のレストランの例では、最初の提案は丁寧で女性と見なされ、後者の主張は通常男性と見なされます。最近の研究はまた、これらのキューが男性または女性のステレオタイプに聞こえるかどうかよりも重要であり、自分自身のアイデンティティに関して、人間であろうと機械であろうと話者の直接の主張と矛盾することさえ示しています。 AIの用語で言えば、Siriが「私は性別を持っていません」と回答するという事実は、人々がプログラムを圧倒的に女性だと思っているという事実を変えませんでした。

これらの考慮事項から生じる倫理的問題により多くの注意を払う。新しいAIが現在の性別役割のステレオタイプに陥り続ける場合、知識のあるリーダー/専門家の男性に対する受動的で従順な女性のステレオタイプが促進されます。しかし、デザイナーは、私たちの文化だけでなく、特に女性の支配状態が国際的な関心を集めている発展途上国においても、変化の強力なエージェントになる可能性があります。デフォルトの男性のスピーキングスタイルを持つ女性およびアシスタントコンパニオンAIとして提示されるビジネスまたは医療顧問AIの影響を想像してください。専門家の役割で女性が認識するAIが増えると、社会の認識が進化し、女性がそのような立場でより受け入れられるようになる可能性があります。 。世界の人口の増加する割合は、男性または女性として識別されず、主流の社会で認識され始めたばかりのカテゴリに分類されます。これには、トランスジェンダーの個人だけでなく、バ​​イナリの性別をまったく特定しない大規模なサブ集団も含まれます。たとえば、自殺率が非常に高いこれらの疎外されたグループにとって、このようなAIシステムは大きな影響を与える可能性があります。彼らは、ジェンダーに中立な彼ら/彼らの単数形の代名詞の使用を普及させるだけでなく、このコミュニティのスピーチパターンを反映することもできます。非バイナリスピーチの言語研究が現在始まったばかりであるため、言語研究者と提携しているAIデザイナーもこのコミュニティに利益をもたらす可能性があります。非バイナリの個人にとって、AIのロールモデルでの話し方を認識することは非常に貴重です

Related Articles

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

Close