行き過ぎたレコメンドシステムが社会をどう変えるか

sc

金曜日のソーシャルメディアインサイトをお送りします。アクトゼロの黒沼です。

今日は情報検索サービスですすむ情報のパーソナライズ化と、その究極の形とも言える「Facebookグラフ検索」の登場、フィルターバブルとその問題点について考えてみます。

ネット上で進む”パーソナライズ”というレコメンド≒フィルタリング

湯川編集長の退任で話題のTechwaveに一年半ほど前に、このような記事を投稿しました。
Google+を使ってみて確信した、Googleが本当に目指している未来【黒沼透】 : TechWave 

「GoogleがGoogle+を始めた本当の目的は、Google+のSNSとしての成功ではなく、検索結果のパーソナライズを確かなものにするための個人情報収集にあるのではないか」という内容だったのですが、今やネット上の情報レコメンドはとても僕たちに身近なものとなっています。ネット広告の分野では、ユーザーの年代・性別・過去の広告閲覧履歴を元に、表示する広告を変えるということは当たり前に行われていますし、一度関連サイトを訪れたユーザーに何度も広告を出し続けるリターゲティング広告なども一般的なものとなってきました。Googleの検索結果のパーソナライズは、検索履歴や検索結果からユーザーが選び出したサイトの傾向などあらゆるユーザー履歴を元に、一層ユーザーに合った検索結果を導き出す精度をあげています。amazon上陸後、利用者にとって衝撃的であったレコメンド(この本を読んだ人は…)は、楽天などの大手ECプラットフォームに限らず一般的なECサイトでも幅広く用いられるようになりました。

Webを訪れたユーザーに合わせてカスタマイズされる広告は、広告を出す側にとっては効率的で、広告を見る側にとってもストレスが少ない「はず」です。同じようにカスタマイズされた検索結果は、検索の精度という意味ではユーザーに高い利便性を約束するはずです。探している私好みの情報が見つかるのです。

ところが、ここまで読まれた方は、違和感を覚えるはずです。「では、最適化される前に表示されていた”情報”はどこに消えてしまったのか」ほんとうに自分が探していた”情報”は、その消えてしまった私好みではない”情報”の中にあるのかもしれなかったのです。Amazonのレコメンドがその優秀な精度のあまり、自分の知らない「本」との偶然の出会いを求める書店愛好家にとって、行き過ぎたフィルタリングに感じられたように、「最適なレコメンド」は同時に「情報のフィルタリング」でもあるのです。

そして、最も問題なのは圧倒的多数のユーザーは、これら情報のパーソナライズについて自覚的ではないことです。

Facebookグラフ検索とは?

今週、「Facebookグラフ検索」のサービスが英語圏でスタートしました。自分のソーシャルグラフ(※友人・知人などネット上に再現された人間関係とそれぞれの個人情報をひとまとめにした概念)をFacebookが分析し、その内容に応じた検索結果を表示するサービスです。単純に「共通の趣味を持った友達の友達」を調べることや、「仲間内で流行っている音楽」などを調べることが可能になるサービスです。

TechcranchにFacebookグラフ検索についての紹介記事が2つ掲載されていましたので、詳細についてはご参考ください。
Facebookのグラフ検索は、プライバシーを利己的に感じさせる 「グラフ検索」を備えたFacebookが、Googleを圧倒的に凌駕するひとつの側面

どちらもGoogleにはできない、より深いパーソナライズが施された検索サービスとして「グラフ検索」を紹介しています。以下に一部引用します。

心理学教授のAdrian Northは「音楽の好みで、その人物のことがだいたいわかる」と述べている。音楽ジャンルと人格についての密接な関連性を論文にまとめてもいる。インディーズバンドのコンサートに言ってみれば、同じようなファッションの人ばかりが集まるというのも当たり前のことなのだ。音楽発見サービスのPandoraが、レコメンデーションアルゴリズムにFacebookのソーシャルデータを組み込んでから、面白いと思った曲はたいてい友達もお気に入りに登録しているということが多くなった。

音楽、本、アート、そしてフードなどといった分野は、その人の人間性を如実に示すものであるのだ。コンサートで書籍やアート作品などが売られているのも、やはりこうした傾向に目をつけてのことなのだろう。そうした「人間性」がわかりやすく現れてくるのが「友達関係」などの「ネットワーク」の中なのだ。すなわち、Facebookのグラフ検索はそうした部分を活用して、本当に有益な情報を救い出す役割を担ってくれるものとなりそうだ。

「グラフ検索」を備えたFacebookが、Googleを圧倒的に凌駕するひとつの側面

今まで知ることのできなかった、ソーシャルグラフ内の情報や、そのグラフの傾向から導かれる最適な情報へのアクセスが容易になることは、たしかにこれまでになかった利便性を、ユーザーにもたらすことでしょう。

しかし、情報の過度なパーソナライズには危惧すべきという声もあります。

フィルタリングが奪う、”未知”との遭遇

イーライ・パリザーによるTEDでのプレゼン、危険なインターネット上の「フィルターに囲まれた世界」では、「フィルターバブル」という言葉が紹介されています。

「フィルターバブル」とは、行き過ぎたネット上のレコメンド技術≒フィルター技術によって、「新しいアイデアとの出会い」が阻害され、視野を広げることが難しくなることを示す言葉です。動画の中では、政治信条や政治への関心度によって、特定の思想や事件が検索結果に現れなくなるという実例が示されます。「エジプト」というワードでGoogle検索した時、イーライの二人の友人の一方には、エジプト民主化デモの検索結果ばかりが現れ、一方には観光都市としてのエジプトの情報ばかりが並び、エジプト民主化デモについては全く検索結果には現れなかったと紹介されています。

氏は、フィルタリングエンジンによる情報の取捨選択にも、一定の倫理基準を設けるべきであると訴えます。本人の個性との相性が悪い情報ても、重要度が高ければ表示させるべきだとイーライは考えています。

徹底されたフィルタリングとレコメンドが社会をどう変えるか

また同時にプレゼンの中で、イーライはフィルタリングエンジンは個人の嗜好の多様性に追いつけていない可能性があり、私たちが気が付かない部分で間違ったフィルタリングをかけているのではないかとも伝えています。私たちは特定の条件によるフィルタリングの傾向で、すべての個性が予測されるほど単純な存在ではないのです。同じアーティストのファンだからといって、同じ食べ物が好きではないし、同じ機種の携帯電話を持っているわけではないということです。

幸運なことに、ネットワーク広告のなかにはオプトインで無効にすることが可能なものもあります。それでも、今後フィルタリング技術が進み、徹底して情報のパーソナライズが進んでいったとしたら、社会はどのように変化するでしょうか?僕は「バラバラだった個人の再クラスタ化」が進んでいくと考えています。(クラスタ:特定の趣味嗜好傾向を持った小~中規模集団、Twitterなどでよく使われるワードですね)

消費可能な「情報」が、現在ほど多くなかった今から20~30年前、ひとびとの関心・傾向はマスコミによってもたらされる情報によって少ないパターンで分類可能でした。現在のネット社会においては、情報の量が爆発的に増加し、個人それぞれが消費したい情報を選んで消費する「バラバラ」の時代を迎えていると言えます。もはや傾向を分類するのが難しいほど個人の価値観は多様化しているのです。

レコメンドエンジンによる、情報パーソナライズの徹底は改めてこのバラバラな個人を、クラスタ化していくことになります。情報のパーソナライズに無自覚な多くのユーザーは、自分の気がつかない部分で特定の傾向のある情報に多く触れ続けることとなります。そうしていくうちに傾向ごとに共通の価値観を持てる一定のグループにまとまっていくことになるのです。

ここで問われるものは、やはりレコメンドエンジン設計側のモラルとなります。先のイーライが危惧する通り、もしフィルタリングする側が意思を持ってどの情報を表示するかを操ったとしたら、その情報を受け取った個人の価値観形成を、ある程度左右することが可能となってしまいます。それが、どのクラスタに「複数ある中からどのスナック菓子を選ばせるか」であればまだしも、世論の誘導に用いられるようなことがあれば、民主主義の根底を覆すようなことになりかねません。個人情報を元にしたレコメンドがどのように運用されていくのか、利用者が注視していくことが必要です。

最後に、少し陰謀論めいた可能性を述べるならば、フィルタリングの扇動的運用が行われたとして、それを告発するサイトは果たして検索結果に現れるのでしょうか?