Oligur

• ニュース

Appleは、少なくとも今のところは、ユーザーによるSiriへの問い合わせを聞き取らないようにしたことをユーザーに伝えたいと考えている。これは正しい判断だ。しかし、これはAppleが自ら招いた反発による、不必要な結果だ。

Siriの盗聴をめぐる論争は、たとえ使いやすさを多少犠牲にすることになったとしても、なぜAppleがユーザーに対してより透明性を高める必要があるのか​​を完璧に示している。

Appleは、契約業者がユーザーとSiriのやり取りの録音を聞いていたことを内部告発者が暴露したことで、非難を浴びた。ガーディアン紙によると、録音には「機密の医療情報、麻薬取引、カップルの性行為の録音」が含まれていたという。

この暴露は一部ユーザーを動揺させ、Appleのプライバシー重視の姿勢に反するものでした。その後、Appleは方針を転換し、「ユーザーのプライバシーを保護しながら、優れたSiri体験を提供することに引き続き尽力する」という声明を発表しました。

「ただ働く」ことの限界

プライバシーをセールスポイントとしてますます重視する企業で、なぜこのようなことが起きたのでしょうか?

まず第一に、シンプルさはAppleのDNAに深く根付いています。Appleは、製品が「とにかく動く」テクノロジー企業であり、ボタンを1回押すだけで済むことを2回押す必要などありません。Appleはコンピューティングを簡単にします。

それで、これは Apple の最新の Siri 問題とどう関係があるのでしょうか?

Appleは音声アシスタント技術にいち早く着手した企業の一つです。人々がコンピューターに話しかけることがいかにシンプルであるかをAppleは理解していました。メニューやタブ、アプリの起動などは一切不要。ただ日常の言葉で話しかけるだけで、まるで魔法のような操作感です。Appleは1980年代にこのことに気づき、実現に尽力しました。そして、今日私たちが知っているSiriは、ついにiPhone 4sで登場しました。

Siriが登場する前は、コンピューターに話しかけるという考えは、どこか脅威に感じられました。最もよく例えられたのは、スタンリー・キューブリック監督の『2001年宇宙の旅』に登場する殺人AI、HAL9000でした。

SiriはHAL 9000のようには見えない

そのイメージを払拭するため、AppleはSiriを可能な限り親しみやすく、分かりやすいものにしようと努めました。特定のランダムなクエリがどこかの薄暗い部屋で聞き取られ、文字起こしされるという説明は、AppleのSiriに対する楽しいアプローチとは相容れず、むしろ恐ろしいものでした。

それでも、Appleはこうした事実を完全に隠蔽したわけではありません。現代のAIシステムに少しでも精通している人なら、膨大な量の学習データを使用していることを知っています。そうした人たちは、Appleの意図を推測できたはずです。Appleはホワイトペーパー（PDF）でこの件について言及さえしていました。もしかしたら、Appleは私たちが読まずに同意する様々な利用規約の山のような小さな文字の中に、この暴露のコード化されたバージョンをどこかに隠していたのかもしれません。しかし、Appleはこの情報を前面に出さなかったのです。

Appleはユーザーに代わって呼びかけを行い、「ソーセージ作り」のプロセスの面倒な部分の詳細をあまり明かさずに、ユーザーエクスペリエンス全体を改善しようと試みた。

何か思い出しますか？

Siriの件を初めて聞いた時、数年前にAppleをめぐる別の論争、iPhoneの速度制限疑惑がすぐに思い出されました。どちらのケースでも、Appleの過ちは当初導入した技術的な解決策ではなく、透明性の欠如という判断ミスだったと言えるでしょう。

2017年12月、Appleが古いバッテリーを搭載したiPhoneの処理速度を意図的に低下させていたことが明らかになりました。これは不要なクラッシュを防ぐための設計でしたが、AppleがユーザーにiPhoneのアップグレードを促すために不正行為を行っているというイメージを助長し、訴訟が起こりました。

最終的に、Appleはより安価なバッテリー交換プログラムを導入しました。また、Appleはスロットリングのオン/オフを切り替えるための新しいソフトウェア機能も導入しました。

Appleは多くの悪評を浴び、秘密主義的な印象を与えました。もし最初からユーザーに十分な情報を提供していれば、同じ問題に直面することはなかったでしょう。

アップルはもっと頑張る必要がある

Siriの場合、Appleの行動はGoogleやAmazonと何ら変わりません。どちらもユーザーのリクエストに耳を傾けています。これによりトレーニングデータが得られ、最終的にはサービスの改善が可能になります。

問題は、Appleが自社の取り組みについて十分な説明をしていなかったことです。Macでプログラムがクラッシュすると、クラッシュレポートを送信するかどうか尋ねられます。アプリをインストールすると、Appleは通知を受け取るかどうか尋ねます。ヘルプラインに電話すると、トレーニングと品質向上のために一部の通話が録音されることが明確に説明されます。

顧客には明確な選択肢があります。しかし、ロボットアシスタントと話すとなると、実際に人間が介入することに驚く人もいるようです。誰かが盗聴しているかもしれないと知ることは、Appleのようにプライバシーを重視する企業にとって、良い印象を与えるものではありません。

Apple、Siriの盗聴を当面停止

Appleの声明によると、同社は現在、Siriへの特定のクエリを「採点」のために聞き取るという慣行を一時停止する。また、ユーザーが参加するかどうかを選択できる機能を提供するソフトウェアアップデートを今後リリースする予定だ。

Siriのリクエストを人間が聞き取る（そして評価する）ことをやめさせるとサービスの質が落ちるので、この2番目のアプローチが最も賢明なように思えます。しかし、もっと賢明だったのは何かありますか？最初からこのオプションを提供すればいいのです。

Appleがこの経験から学ぶことを願う。Appleのプライバシー重視の姿勢は素晴らしい。しかし、透明性も同様に重要だ。AppleがCEOのティム・クック氏が望むような「善の力」となるためには、透明性も同様に重要だ。たとえ、合理化されたユーザーエクスペリエンスが時折中断されるとしても。