世界

FacebookのAI責任者は、フィールドはすぐに「壁を打つ」と言う

ジェロームペセンティは、世界で最も影響力のある、物議を醸す企業の1つで人工知能の開発をリードしています。Facebookの人工知能のVPとして、彼は何百人もの科学者とエンジニアを監督し、その仕事が会社の方向性と世界への影響を形作っています。

AIはFacebookにとって根本的に重要です。私たちの注意をつかみ、保持することを学ぶアルゴリズムは、プラットフォームとその姉妹製品InstagramおよびWhatsApp、より粘着性と中毒性。そして、パーソナルアシスタントMのようないくつかの注目すべきAIフロップにもかかわらず、FacebookはInstagramフィルターから拡張現実アプリまで、AIを使用して新しい機能と製品を構築し続けています。

Mark Zuckerbergはポリシングにより、会社の最大の問題のいくつかを解決するためにAIを展開することを約束しました悪意のある発言、偽のニュース、ネットいじめ(これまでのところ限られた成功を見た努力)。最近では、Facebookはディープフェイクビデオの形でAIを利用した詐欺を阻止する方法を考慮せざるを得なくなりました。嫌がらせの新しい形態を可能にします。

Pesentiは1月にFacebookに参加しました10、によって作成された研究所を継承Yann Lecun、この分野で最大の名前の1つ。その前に、彼はIBMのWatsonAIプラットフォームと、このテクノロジーを医療に応用している会社であるBenevolent AIで働いていました。

Pesentiは、ニューヨークのオフィスの近くで、WIREDのシニアライターであるWill Knightと会いました。会話の長さは編集されました。

ウィルナイト:AIは、偽のニュースやオンラインでの悪用の解決策として提示されていますが、その力を売りすぎる可能性があります。本当にそこまで進んでいますか?

ジェローム・ペセンティ:Facebookの規模で自動的に、または人間とコンピューターが連携して調整することは、非常に難しい問題です。しかし、私たちは多くの進歩を遂げました。

早期に、この分野はビジョンの進歩を遂げました—シーンと画像を理解する。ここ数年で、ヌードを認識し、暴力を認識し、画像やビデオで何が起こっているのかを理解するためにそれを適用することができました。

最近、多くの進歩がありましたlanguageのフィールド。これにより、人々が使用する言語を介した相互作用のより洗練された理解が可能になります。人々がいじめをしようとしているのか、それが悪意のある表現なのか、それが単なる冗談なのかを理解できます。解決された問題ではありませんが、明確な進展が見られます。

WK:ディープフェイクはどうですか?

JP:私たちはそれを非常に真剣に考えています。実際に試して、新しいディープフェイクビデオを作成し、ディープフェイク検出技術をテストできるようにしました。積極的に取り組むことは非常に重要な課題です。現時点ではプラットフォーム上ではそれほど重要ではありませんが、非常に強力なものになる可能性があります。私たちはゲームを先取りしようとしています、そして私たちは業界とコミュニティに関与しています。

WK:AIについてもっと一般的に話しましょう。一部の企業、たとえばDeepMindおよびOpenAI、彼らの目的は「人工知能」を開発することだと主張しています。それはFacebookがやっていることですか?

JP:ラボとしての目標は、人間の知能を一致させることです。私たちはまだそれから非常に遠いですが、それは素晴らしい目標だと思います。しかし、Yannを含むラボの多くの人々は、「AGI」の概念はあまり面白くなく、あまり意味がないと考えています。

AGIは人間の知能であると想定する人々がいます。しかし、人間の知性を本当に考えれば、それはあまり一般的ではないので、それは少し不誠実だと思います。次に、他の人々がAGIに特異性のアイデアを投影します。AGIがあれば、自分自身を改善し、改善し続けることができる知性を手に入れることができます。しかし、そのための実際のモデルはありません。人間は自分自身をもっと賢くすることはできません。人々はある種のアジェンダを追求するためにそこに放り投げているのだと思います。

WK:FacebookのAIラボは、この分野での仕事に対して最近チューリング賞を受賞したディープラーニングの先駆者の1人であるLeCunによって構築されました。ディープラーニングに焦点を当てている分野の批評家をどう思いますか?私たちに本当の知性をもたらしますか?

“私たちはとてもFacebookの人工知能担当副社長、ジェロームペセンティは言います。

Facebookの提供

JP:ディープラーニングと現在のAIは、本当に正直なところ、多くの制限。私たちは人間の知性から非常に遠く、有効な批判がいくつかあります:それは人間の偏見を広めることができ、説明するのは簡単ではなく、常識がなく、堅牢な意味理解よりもパターンマッチングのレベルです。しかし、私たちはこれらのいくつかに対処することで進歩を遂げており、フィールドはまだかなり急速に進歩しています。深層学習を数学に適用したり、タンパク質を理解したりすることができます。それでできることはたくさんあります。

WK:一部のAI専門家は、「再現性の危機」、または画期的な研究を再現することの難しさについても語っています。それは大きな問題だと思いますか?

JP:Facebook AIは非常に情熱を注いでいます。人々が再現性のないことをすると、多くの課題が生じます。再現できない場合は、多くの投資が失われます。

再現性がフィールドに大きな価値をもたらすと信じています。これは、人々が結果を検証するのに役立つだけでなく、より多くの人々が何が起こっているのかを理解し、それに基づいて構築することも可能にします。 AIの利点は、最終的にはコンピューターで実行されるシステムであることです。したがって、科学のサブフィールドとしての再現性は、最有力候補です。 AIの未来は、ほぼデフォルトで再現可能なものになると信じています。私たちは


オープンソースを作成しようとしていますAI、他の人がその上に構築できるようにするため。

WK:OpenAI最近注意書き高度なAIに必要な計算能力は3か月半ごとに倍増しています。これを心配していますか?

JP:それは本当に良い質問です。ディープラーニングをスケーリングすると、動作が向上し、より広範な方法でより良い方法で解決できる傾向があります。そのため、スケーリングには利点があります。しかし、明らかに進歩率は持続可能ではありません。上位の実験を見ると、毎年コストが上がります(**********************************************************)-fold。現時点では、実験は7桁になっているかもしれませんが、9桁や10桁に行くことはできません。不可能であり、誰もそれを買う余裕はありません。

壁にぶつかります。多くの点ですでにあります。すべての領域がスケーリングの限界に達しているわけではありませんが、ほとんどの場所で、最適化の観点から、コストの利点の観点から、本当に考えなければならないポイントに到達しています。計算の範囲外です。これが私たちが行く世界です。

WK:Watsonを使用してIBMでAIを商品化することから何を学びましたか? Facebookで何をコピーしようとし、何を避けようとしましたか?

JP:ワトソンは本当に楽しい時間でしたが、IBMはこれが商業市場であり、実際にはアプリケーションがあると呼びかけたと思います。それは本当に驚くべきことだったと思います。しかし、過大評価が少なすぎました。 IBMにはあまり役に立たなかったと思います。

Facebookのような場所がある場合、組織内での使用率は驚くべきものです。 FacebookでAIを使用する開発者の数は、現在、毎年2倍以上になっています。ですから、それが有用であることを説明する必要がありますが、誇張しすぎないでください。できないことはできると主張することはできません。そして、チームの存在を正当化するために誇張する必要はありません。

WK:Facebookは、AIの研究を商業的な成功に導くのに苦労することがありました。たとえば、Mです。研究と工学をより効果的につなげようとしていますか?

JP:話し始めたとき技術移転、それはあなたがすでに戦いに負けていることを意味します。いくつかの研究を選んで、他の人にそれを本番にしようとすることはできません。フェンスの上に放り投げることはできません。それを設定する最善の方法は、製品に近い人と一緒に基礎研究を行う人を獲得することです。これは本当に組織的な課題です。一方の科学者が枠を越えて、研究をフェンスにかけるのではなく、時間の経過とともに成熟し、人々を連れて行く一連のプロジェクトを確保することです。

WK:どんな種類の新しい近い将来、FacebookにAI製品を期待すべきでしょうか?

JP:今日のFacebookでのAIの2つの主要な用途は、ユーザーにとってプラットフォームをより安全にし、ユーザーに見せることがユーザーにとって有益であることを確認することです。しかし、私たちが行っている最もエキサイティングなことのいくつかは、AIでのみ可能な新しい体験を作成しようとしています。拡張現実と仮想現実の両方は、AIでのみ存在できます。最近、手を使ってVRとやり取りできることがわかりました、ヘッドセットの周囲にあるものを本当に微妙に理解する必要があります。コントローラーとして手を使用できるように、カメラだけを使用してシーン全体を解析します。また、人々をより創造的にすることには大きな可能性があると信じています。 TikTokのような競合製品のいくつかでそれを見ています。多くの人は、専門家やビデオ編集者、アーティストではなく、メディアと自然にやり取りすることでビデオやコンテンツを作成します。

WK:ディープフェイクの背後にある技術をおそらくそのような創造的な目的に置くことができましたか?

JP:もちろんです。私たちは両方の側面に注意する必要があります。人々をより創造的にし、力を与える可能性はたくさんあります。しかし、過去数年間で学んだように、テクノロジーを責任を持って使用する必要があり、意図しない結果が発生する前にそれを認識する必要があります。

WK:AI輸出規制のアイデアについてどう思いますか?技術を制限できますか?それはフィールドに害を及ぼしますか?

JP:私の個人的な意見では、これを実装するのは非常に実用的ではないようです。ただし、それを超えると、研究の進歩に悪影響を及ぼし、作業の再現性が低下する可能性があります。 AIの進歩を促進するためには、オープン性とコラボレーションが重要であり、基礎研究の結果の公開またはオープンソーシングを制限すると、フィールドの進捗が遅くなるリスクがあります。

そのような制御が導入されているかどうかに関係なく、責任ある研究者として、潜在的な誤用のリスクと、それらを軽減する方法を引き続き検討する必要がありますが、AIを前進させる作業が可能な限りオープンで再現可能であることを保証します


その他の素晴らしいWIREDストーリー

キーボード、代替案の入力、およびノイズキャンセリングヘッドフォン

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

Close