ニュース

Jun 17, 2023

Googleの写真アプリはまだゴリラを見つけられない。 Appleも同様です。

Otto anni dopo la polemica sui neri

広告

による支援

画像解析ソフトウェアによって黒人がゴリラと誤認されたという論争から8年が経ち、コンピュータービジョンが大きく進歩したにもかかわらず、ハイテク大手は依然として間違いを繰り返すことを恐れている。

ニコ・グラント、カシミール・ヒル著

Google が 2015 年 5 月にスタンドアロンの写真アプリをリリースしたとき、人々はその機能に驚きました。それは、画像を分析してそこに写っている人、場所、物にラベルを付けるという、当時としては驚くべき消費者向けサービスでした。 しかし、リリースから数カ月後、ソフトウェア開発者のジャッキー・アルシネ氏は、グーグルが黒人である自分と友人の写真を「ゴリラ」とラベル付けしていたことを発見した。この用語は何世紀にもわたる人種差別を反映するもので、特に不快な用語である。比喩。

その後の論争で、Googleは自社のソフトウェアが写真内のあらゆるものをゴリラとして分類することを阻止し、この問題を解決すると誓った。 8 年後、人工知能が大幅に進歩したため、Google が問題を解決したかどうかをテストし、競合他社である Apple、Amazon、Microsoft の同等のツールを調べました。

Apple、Google、Amazon、Microsoft が作成した写真アプリは、人工知能を利用して、ますます膨大になる写真コレクションの中で特定のアイテムを検索し、特定の思い出を正確に特定できるようにしています。 8,000 枚の画像から動物園での一日を見つけてみませんか? アプリに質問してください。 そこで、検索機能をテストするために、44枚の画像人物、動物、日常の物体をフィーチャーします。

まずはGoogleフォトから始めました。 私たちのコレクションを検索したとき猫そしてカンガルー、クエリに一致する画像が見つかりました。 このアプリは、他のほとんどの動物をうまく認識しました。

しかし、私たちが探したとき、ゴリラ、 Google フォトで画像が見つかりませんでした。 検索の範囲を広げて、ヒヒ、チンパンジー、オランウータンそして猿、私たちのコレクションにはこれらすべての霊長類の画像があったにもかかわらず、それでも失敗しました。

次に、Google の競合他社を調べました。 私たちは、Apple Photos にも同じ問題があることを発見しました。Apple Photos は、ほとんどの霊長類を除いて、特定の動物の写真を正確に見つけることができました。 結果は得られましたゴリラ、ただし、ゴリラテープの画像など、写真にテキストが含まれている場合に限ります。

Microsoft OneDrive での写真検索では、試したすべての動物について空白が表示されました。 Amazon Photos ではすべての検索結果が表示されましたが、内容が過剰でした。 私たちが検索したときゴリラ、アプリは霊長類の動物園を表示し、他の動物でもそのパターンを繰り返しました。

未定義

Google と Apple が認識できた霊長類のメンバーの 1 つがキツネザルでした。キツネザルは、常に驚いたような表情をしており、長い尾を持つ動物で、人間と親指を反対側に置きますが、類人猿よりも遠い親戚です。

画像分析に関しては、Google と Apple のツールが明らかに最も洗練されていました。

しかし、世界中のスマートフォンのほとんどを Android ソフトウェアで支えている Google は、不快な間違いを犯して人を動物としてレッテルを貼ることを恐れて、霊長類を視覚的に検索する機能を無効にする決定を下した。 そして、Apple は、私たちのテストで Google と同様の性能を発揮したテクノロジーを搭載しており、サルや類人猿を探す能力も無効にしているようでした。

消費者はそのような検索を頻繁に行う必要はないかもしれないが、2019年にiPhoneユーザーがAppleのカスタマーサポートフォーラムで、このソフトウェアが「私のデバイス上の写真からサルを見つけられない」と不満を漏らした。 しかし、この問題は、コンピューター ビジョン (視覚的画像を解釈する技術) に依存するサービスや、AI を活用した他の製品に潜む他の未修正、または修正不可能な欠陥についてのより大きな疑問を引き起こしています。

アルシネ氏は、グーグルがまだこの問題を完全に解決していないことを知って落胆し、社会はテクノロジーに過大な信頼を置いていると語った。

「私はこのAIを永遠に信じないつもりだ」と彼は言った。

コンピューター ビジョン製品は現在、玄関先に荷物があるときに警告を送信するなどの日常的なタスクから、車の運転や法執行機関の捜査での犯人の発見などの重要なタスクにも使用されています。

エラーは、データをエンコードする人々の間の人種差別的な態度を反映している可能性があります。 ゴリラ事件では、この技術に取り組んでいたグーグルの元従業員２人が、問題は同社がＡＩシステムの訓練に使用する画像コレクションに黒人の写真を十分に入れていなかったことだと述べた。 その結果、この技術は肌の色が濃い人々には十分に馴染みがなく、彼らをゴリラと混同してしまいました。

人工知能が私たちの生活に深く浸透するにつれて、意図しない結果に対する不安が生じています。 コンピューター ビジョン製品と ChatGPT のような AI チャットボットは異なりますが、どちらもソフトウェアをトレーニングするための基礎となる一連のデータに依存しており、データの欠陥やコードに組み込まれたバイアスが原因でどちらも誤作動する可能性があります。

Microsoftは最近、同社の検索エンジン「Bing」に組み込まれたチャットボットが不適切な会話を扇動したことを受け、ユーザーの対話機能を制限した。

Microsoftの決定は、自社のアルゴリズムでゴリラを完全に識別できないようにするというGoogleの選択と同様、誤動作するテクノロジ機能を修正するのではなく遮断するという業界の一般的なアプローチを示している。

「これらの問題を解決することは重要です」と、コンピュータービジョンを研究するライス大学のビセンテ・オルドニェス教授は言う。 「他のシナリオでこのソフトウェアをどのように信頼できるでしょうか?」

グーグルの広報担当マイケル・マルコーニ氏は、グーグルが自社の写真アプリにサルや類人猿のラベルを付けることを差し止めたのは、利益が「危害のリスクを上回らない」と判断したためだと述べた。

Appleは、ユーザーがアプリ上でほとんどの霊長類を検索できないことについてはコメントを控えた。

アマゾンとマイクロソフトの代表者らは、両社は常に自社製品の改善に努めていると述べた。

Googleは8年前にリリースした写真アプリを開発していたとき、人、動物、物体を識別するAIシステムを訓練するために大量の画像を収集した。

グーグルの元従業員２人によると、トレーニングデータに黒人の写真が十分に含まれていなかったという重大な見落としが、後にアプリの誤作動を引き起こしたという。 元従業員らによると、同社は当時、この機能を一般公開する前に十分な数の従業員にテストを依頼していなかったために「ゴリラ」問題を解明できなかったという。

Googleはゴリラ事件について深く謝罪したが、これはテクノロジー業界全体で偏見の非難につながった数あるエピソードの1つだった。

批判されている他の製品には、一部の肌の色が黒い人を検出できなかったHPの顔追跡ウェブカメラや、訴訟によれば肌の色に応じて血中酸素濃度を正確に読み取ることができなかったApple Watchなどがある。 この失態は、ハイテク製品が肌の色が濃い人向けに設計されていないことを示唆していた。 （Appleは、「幅広い肌タイプと肌の色調」を対象に血中酸素アプリをテストする取り組みを詳しく説明した2022年の論文を指摘した。）

当時Googleで働いていたこの事件に詳しい関係者によると、Googleフォトのエラーから数年後、同社は内部テスト中にNestホームセキュリティカメラでも同様の問題に遭遇したという。 AI を使用して敷地内にいる人がよく知っている人か馴染みのない人かを判断する Nest カメラは、一部の黒人を動物と間違えました。 Googleはユーザーが製品にアクセスできるようになる前に問題の解決を急いだ、とその関係者は述べた。

しかし、Nestの顧客は他の欠陥について同社のフォーラムで苦情を訴え続けている。 2021 年、ある顧客は、母親がドアベルを鳴らしたが、ドアの向こうには義母がいたというアラートを受け取りました。 ユーザーが「よく知っている」とマークした顔をシステムが混同していると苦情を申し立てたとき、フォーラムのカスタマーサポート担当者はラベルをすべて削除して最初からやり直すようアドバイスした。

グーグルの広報担当マルコーニ氏は、「われわれの目標は、この種の間違いが二度と起こらないようにすることだ」と述べた。 同氏は、同社が「専門家と提携し、画像データセットを多様化することによって」技術を向上させたと付け加えた。

2019年、Googleはデータセット内の肌の色が黒い人の数を増やすことで、Androidスマートフォンの顔認識機能を改善しようと試みた。 しかし、Googleが顔スキャンを収集するために雇った請負業者は、多様なデータの不足を補うために厄介な戦術に訴えたと伝えられている。彼らはホームレスの人々と学生をターゲットにしたのだ。 グーグル幹部らは当時、この事件を「非常に憂慮すべき」と呼んだ。

Google はテクノロジーの改善に水面下で取り組んでいましたが、ユーザーがその取り組みを評価することを決して許しませんでした。

Googleの倫理AIグループの研究者兼共同創設者であるマーガレット・ミッチェル氏は、ゴリラ事件後に同社に入社し、写真チームと協力した。 彼女は最近のインタビューで、「少なくともしばらくの間はゴリラのラベル」を取り除くというGoogleの決定を支持すると述べた。

「有害な固定観念を永続させるのではなく、どれくらいの頻度でゴリラにレッテルを貼る必要があるのか​​を考えなければなりません」とミッチェル博士は言う。 「利益は、間違ったやり方で生じる潜在的な害を上回るものではありません。」

同教授のオルドニェス博士は、グーグルとアップルは霊長類と人間を区別できるようになったかもしれないが、再び誤作動した場合の評判リスクを考慮してこの機能を有効にしたくなかったのではないかと推測した。

その後、Google は、より強力な画像分析製品である Google レンズをリリースしました。これは、テキストではなく写真で Web を検索するツールです。 Wired は 2018 年に、このツールでもゴリラを識別できないことを発見しました。

レンズに犬の写真を見せたところ、犬の可能性のある品種を示唆することができました。

しかし、ゴリラ、チンパンジー、ヒヒ、オランウータンを見せたところ、レンズは困惑したようで、画像に写っていたものにラベルを付けることを拒否し、「見た目が一致する」写真、つまり元の写真に似ていると判断した写真だけを提示した。

ゴリラの場合、他のゴリラの写真が表示され、テクノロジーは動物を認識しているが、

会社はラベルを貼ることを恐れている。

レンズに犬の写真を見せたところ、犬の可能性のある品種を示唆することができました。

しかし、ゴリラ、チンパンジー、ヒヒ、オランウータンを見せたところ、レンズは困惑したようで、画像に写っていたものにラベルを付けることを拒否し、「見た目が一致する」写真、つまり元の写真に似ていると判断した写真だけを提示した。

ゴリラについては他のゴリラの写真を示し、この技術はその動物を認識しているが、同社がそれにラベルを付けることを恐れていることを示唆した。

未定義

現在は Google で働いていないミッチェル博士は、これらのシステムは決して確実なものではないと述べています。 何十億人もの人々が Google のサービスを利用しているため、10 億人のユーザーのうち 1 人だけに起こる稀な不具合であっても表面化することがあります。

「たった一度の間違いで、大きな社会的影響が出るのです」と彼女は言い、それを「干し草の山の中の毒針」と呼んだ。

Nico Grant は、サンフランシスコ在住の Google を担当するテクノロジー レポーターです。 以前は Bloomberg News に 5 年間勤務し、Google とクラウド コンピューティングに注力していました。 @ニコアグラント

カシミール・ヒルはニューヨークを拠点とするテクノロジー記者です。 彼女は、テクノロジーが私たちの生活を、特にプライバシーに関して、予期せぬ、そして時には不気味な方法で変えていることについて書いています。 @カッシュヒル

広告