世界

上院議員は黒人に偏った健康アルゴリズムに抗議

10月に、広範に使用されているソフトウェアが米国のヘルスケアで人種的偏見を引き起こす可能性があるかどうかという疑問のある学術研究がありました。一部のプロバイダーが使用しているアルゴリズムは、糖尿病などの状態での特別な支援へのアクセスを優先的に優先するために使用します。民主党の大統領候補であり上院議員であるコリー・ブッカー(D-ニュージャージー)と上院の同僚であるロン・ワイデン(D-オレゴン)は現在、回答を求めています。

火曜日、ブッカーとワイデンは連邦取引委員会およびメディケアおよびメディケイドサービスセンター機関に健康の偏見を探し、予防する方法を尋ねるケアアルゴリズム。彼らは、意思決定アルゴリズムが疎外されたコミュニティを差別するかどうかを調査するようFTCに依頼しました。議員はまた、技術の偏りに対する内部の保護策について尋ねる5つの大手ヘルスケア会社に書きました。

「アルゴリズムを使用する際、組織はしばしば人間の欠陥と偏見を除去しようとします」とブッカーとワイデンは書いています。 「残念なことに、これらの複雑なシステムを設計する人々と、使用される膨大なデータのセットの両方には、多くの歴史的および人間のバイアスが組み込まれています。」レターは健康会社ブルークロス・ブルーシールド、シグナコーポレーション、エトナ、ヒューマナ、およびUnitedHealth Group。

BookerとWydenの手紙を促した研究は、UnitedHealth子会社Optumの患者管理ソフトウェアの出力に人種的偏見を発見した。 (***************************************の医療ニーズを予測するために使用されます*********)全米で百万人の患者がいるが、主要病院のデータは、黒人患者の重症度を控えめに示し、同じ病状の白人患者よりも低いスコアを割り当てていることを示した。

一部の医療システムは、スコアを使用して、糖尿病や腎臓病などの複雑な慢性疾患を持つ人々のための特別なプログラムへのアクセスを決定するため、そのスキューは深刻で致命的な結果をもたらす可能性があります。研究が実施された大規模な学術病院では、著者は、アルゴリズムのバイアスが、ほぼ(*****************から、余分な援助を受ける黒人患者の割合を半分以上効果的に減少させると計算しました************************************)パーセント未満20パーセント

ブッカーとワイデンは、これらの結果が政府の行動を促すべきだと示唆した最初の人ではありません。先月、ニューヨーク州の保健および金融サービス規制当局は、UnitedHealthに共同レターを書きました。「これらの差別的な結果は、意図的かどうかにかかわらず、容認できず、代理店は、人種的に異なる影響がないことを示すことができない限り、アルゴリズムやデータ分析を使用しないように会社に依頼しました。 UnitedHealthは、テクノロジーのアウトプットのバイアスやその後の規制当局からの圧力を示した研究への対応についての質問への回答を拒否しました。

4月、ブッカーとワイデンは、アルゴリズム説明責任法は、意思決定に自動化を使用する組織に、差別化のためのテクノロジーを評価することを要求します。米国代表Yvette Clarke(D-New York)は下院にバージョンを導入しました。

Ziad Obermeyer、UCバークレーの研究者であり、Optumアルゴリズムを解剖する研究の主著者その結果は、そのような技術がヘルスケアでどのように使用されるかについての広範な再評価を引き起こすはずです。 「私たちが特定したバイアスは、1つのアルゴリズムや1つの会社よりも大きい。これは、医療セクターとしてのリスク予測についての考え方における体系的なエラーです」と彼は言います。アルゴリズムのスキューは、医療費を人のケア要件のプロキシとして使用する方法から生じたもので、その予測には、健​​康上のニーズと同程度に経済的不平等が反映されます。

Obermeyerシカゴ大学およびボストンのブリガムアンドウィメンズおよびマサチューセッツ総合病院の研究者と彼の結果を発表しました。著者は、ヘルスシステムやヘルスケアアルゴリズムからバイアスを検出して削除したい他の人と一緒にbonoを使用することを提供しています。

「医療システム、病院協会、保険会社、州の委員会から多大な反応がありました」とオーバーマイヤーは言います。健康産業が広まっている可能性のある問題に目覚めつつあることを示唆しています。


もっと素晴らしいWIREDストーリー

およびsocks)、および20191025160637最高のヘッドフォン。

437955271

Related Articles

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

Close