Oligur

• ニュース

クパチーノはApple Cardを史上最高のクレジットカードと宣伝しました。しかし、実際には、利用限度額を決定するアルゴリズムが差別的であるという非難が上がり、Apple Cardはネガティブな評判を招きました。

Appleの共同創業者スティーブ・ウォズニアック氏でさえ、性差別的とされるアルゴリズムに不満を表明しました。ウォズニアック氏は、銀行口座や資産を共有しているにもかかわらず、妻の10倍もの評価を受けていたと述べています。Appleがアルゴリズムの偏向で非難される最新のテクノロジー企業となった経緯と、それが何を意味するのか、以下に解説します。

Apple Cardのアルゴリズムの問​​題

起業家のデイヴィッド・ハイネマイヤー・ハンソン氏は先週、TwitterでApple Cardのアルゴリズムについて初めて警告を発した。彼は、妻と共同で納税申告を行っているにもかかわらず、妻の20倍もの限度額を受け取っていると訴えた。

「Apple Cardの担当者から『それはアルゴリズムの問​​題です』『クレジットスコアの問題です』と言われて、本当に腹が立ちました」と、ジェイミー・ハイネマイヤー・ハンソン氏はFast Companyの記事で述べている。「私はデビッドよりもずっと長くアメリカでクレジットスコアを稼いでいます。一度も支払いを延滞したことがありません。借金もありません。デビッドと私はすべての金融口座を共有しており、私のクレジットスコアは非常に高く、デビッドよりも高いのです。」

ハイネマイヤー・ハンソン氏の訴えを受け、ニューヨーク州金融サービス局はApple Card発行会社ゴールドマン・サックスの慣行について調査を開始しました。法律では、年齢、信条、人種、肌の色、性別、性的指向などの要素に基づいてアルゴリズムが対応を決定することを禁じています。

私たちは、アルゴリズムが日々の生活に大きな影響を及ぼす世界に生きています。目にするニュースから住宅ローンの審査、そしてもちろん信用限度額まで、あらゆるものに影響を与えています。

世界のアルゴリズム化が約束した大きなことの一つは、とりわけ偏見を排除できることでした。人間のマネージャーは、自分と似た外見の人材を採用する可能性が高くなるかもしれません。しかし、理想的には、同じような仕事を任されたアルゴリズムは、候補者を客観的に判断するでしょう。まさに実力主義の美しい夢です。

アルゴリズムの偏り

しかし、Apple Cardにおける性差別の可能性は、アルゴリズムのバイアスという問題を浮き彫りにしています。もちろん、私たちがテクノロジーを魔法のように捉えたくても、それは魔法ではありません。アルゴリズムをプログラムするのは人間のプログラマーです。ブラックボックス化されたニューラルネットワークが絡むと、事態はさらに複雑になります。これらのAIツールは、入力と出力しかアクセスできない人間のプログラマーには理解不能です。コンピューターは、その複雑な中間部分を理解し、どちらか一方を他方に変換します。

しかし、与えられたデータによっては、バイアスが存在する可能性があります。場合によっては、コーディング担当者の明確な偏見である可能性があります。あるいは、単にコーディング担当者の盲点である可能性もあります。2015年のGoogleフォトアプリの論争では、まさにそれが起こりました。画像認識システムによって2人の黒人がゴリラと分類されたのです。（アルゴリズムは黒人の写真を使って十分に学習されていませんでした。）

AIは、欠陥のある過去に基づいて未来を予測することで、社会的な偏見をアルゴリズムの形で組み込むこともできます。過去の優勝者を見て美人コンテストを審査するAIは、過去の美の基準（例えば白人）を強化する可能性が高く、それを将来に向けた判断へと変換します。

ゴールドマン・サックスの反応

Apple Cardのクレジット限度額を決定するアルゴリズムの正確な問題点はまだ明らかになっていません。このアルゴリズムは、Apple CardにおけるAppleの金融パートナーであるゴールドマン・サックスによって開発された可能性が十分にあります。

「性別などの要素に基づいて決定を下したことはなく、今後も決して行いません」と、ゴールドマン・サックスのリテールバンクCEO、キャリー・ハリオ氏は、この騒動を受けて声明を発表した。「実際、Apple Cardの申し込み手続きでは、お客様の性別や婚姻状況を把握していません。」しかし、同行は最新の情報に基づき、Apple Cardの申し込みを再度審査することを喜んで受け入れるとしている。

あなたの声が聞こえます #AppleCard pic.twitter.com/rPSjWNXhh9

— GS Bank Support (@gsbanksupport) 2019年11月11日

Appleカードの悪い評判

原因が何であれ、これはAppleにとって悪い印象を与える。CNBCのインタビューで、ハイネマイヤー・ハンソン氏はクパチーノに焦点を絞った。

「ゴールドマン・サックスの顧客だとは思っていません」と彼は言った。「アップルの顧客だと感じています」

細則上は、消費者に優しいApple Cardはゴールドマン・サックスとクパチーノの提携と謳われているかもしれないが、この論争の顔はAppleだ。結局のところ、Apple Cardという名前なのだ。

「iPhoneに問題があったら、フォックスコンに行くべきでしょうか？」とハイネマイヤー・ハンソン氏は言った。「もちろん行きません。アップルに行きます。これはアップルの製品であり、アップルが完全に所有しているのですから。」

Apple Cardのアルゴリズムは修正できるのか？

Apple（そしてゴールドマン・サックス）はこの問題を解決できるだろうか？技術的なレベルでは確かに。ニュースサイクルにおける支配力という点では？もちろん。しかし、性差別をめぐる主張は好ましいものではない。そして、この論争は、Appleが金融サービス分野への進出を強めていく中で、どのような課題に直面する可能性があるかを示唆している。

Apple Cardによってお金の管理が楽になるのは素晴らしいことです。しかし、金融サービスを提供するということは、一部の人にとっては利用できないということを意味します。たとえアルゴリズムが完璧に機能したとしても、AppleにとってマイナスのPR効果をもたらす可能性があります。今回のようにアルゴリズムが機能しない場合は、さらに問題が深刻化します。

これが本当に残念な点です。Appleは、この汚いビジネスを実際に清算できる、他に類を見ない力を持っています。クレジットへのアクセスを公正で透明性があり、説明責任のあるプロセスにするのです。プライバシー保護への取り組みと合わせて、これは強力な組み合わせになるはずでした！しかし、V1はそれを台無しにしました。

— DHH (@dhh) 2019年11月11日

AppleのAIへの挑戦

Appleは長年にわたり「善良な」コンピュータ企業であり続けてきました。製品の仕組みが透明化されています。現CEOのティム・クック氏は、Appleが世界にとって「善の力」であると述べています。Appleはジェンダー差別との闘いを含む社会問題に常に取り組んでいます。偏向した可能性のあるアルゴリズムを採用する企業を受け入れることはありませんが、Appleのクレジットカードに関するこのような疑惑は特に懸念すべきものです。

現在、Appleは人工知能（AI）などの分野にこれまで以上に力を入れています。長年この分野で遅れをとっていたディープラーニングやニューラルネットワークなどは、Appleのテクノロジーにおいてますます重要な役割を担っています。

Appleは、人々がこれらのツールを信頼できるようにすることに多大な時間と労力を費やしています。同社は、最新のハードウェアとソフトウェアを宣伝しながらも、プライバシーと説明責任を推進しています。

このApple Cardアルゴリズムの失態は、Appleのような極めて進歩的な企業であっても、こうした取り組みが裏目に出る可能性があることを浮き彫りにしています。関係者全員がこの事態から貴重な教訓を得られることを願っています。