信用スコアが普及した社会に起きうる問題点を解説

評価経済や信用経済という考え方が若者の間で支持されつつあり、おとなり中国では

「芝麻信用」

という、評価経済や信用経済を体現したようなサービスが数億人規模で使われています。

このような状況で日本の起業家達が黙っているはずもなく、さまざまな会社が信用スコア事業への参入を表明しています。

信用スコアは確かに努力した人が報われやすくなる、とくに意識が高そうな若者にとって魅力的なサービスです。

しかし、どんな物事でも良い面と悪い面があるように、信用スコアにもマイナスの面があります。

まだ日本では本格的なサービスはほとんど始まっていませんが、起きうる問題を考えたいと思います。

問題点はおおきくは

• 信用スコアの仕組み自体に潜む欠陥

• 格差や差別の助長

• 監視社会によるメンタルヘルスへの悪影響

• 信用スコアをネタにした詐欺等の犯罪増加

この4つに分かれると考えられます。

ただ、信用スコア事業へ参入する会社も、事業を推進する上で社会からの批判を避けたいと考えるはずです。

よって、サービスのデザインを上手く設計して、ここで挙げた問題点やリスクを回避する確率は高いでしょう。

問題点その1. 信用スコアの仕組み自体に潜む欠陥

信用スコアは

• AI（人工知能）

• パーソナルデータ

この両者の組み合わせによって作成される、得点というか数値です。

そして、AI（人工知能）は人によってプログラミングされたソフトウェアです。

パーソナルデータは個人の紐づくデータで、信用スコアの分析に使えるデータがあればあるほど精確に信用力が予測できるとされています。

このロジックは、本当に正しいのでしょうか。

そもそも論になりますが、この仕組みが完璧であるという事実はありません。

というか、相手が信用できる人かどうかの判断で、長い付き合いのある人間同士でもお互いの判断を誤ることがあります。

それくらい人の人格や能力を分析・判断することは難しいのです。

これは、

• インターネットの検索履歴

• WEBサイトやアプリの閲覧履歴

• チャットアプリの会話の履歴

などの非常にセンシティブなデータを信用スコアの分析に使えたとしても、同じことです。

そもそも、人は自分の能力や人格だって精確に把握できません。

AI（人工知能）の不完全なアルゴリズム

AI（人工知能）は、定められたアルゴリズムによって個人に紐づくデータを分析し、信用スコアを作成します。

信用スコアを判断するアルゴリズムは、人（プログラマー）によって作成されたものです。

ということは、信用力を判断するアルゴリズムが間違えていれば信用力の正確な分析は難しくなります。

では、100%正確に相手の信用力を測定できるアルゴリズムが人に作れるのかというと、これは不可能です。

アルゴリズムによっては明らかな判断ミスを起こすこともあると思います。

明確なミスについては、おそらく人の手で修正などが加えられると思いますが、すでに述べたように人間でも個人の信用力を正しく判定することは困難です。

つまり、完璧にその人の信用力を判断することは不可能な行為なのです。

信用スコアは100%精確なものではないと認識する

信用スコアが自分が期待した数値よりも低いと、まるで人格や自分の経歴・歴史が否定されたかのように感じる人もいるでしょう。

しかし、すこし説明したようにアルゴリズムは判断を間違えることがあります。

そして、個人の信用力を精確に数値化することもほぼ不可能です。

なので、それほど気にしない、というスタンスがもっとも良いと思います。

占いのようなもの、と捉えるくらいが良いのかもしれません。

パーソナルデータをもとに人工知能が判定する信用スコアの数値は、完璧ではありません。

これを認識するだけでも、気持ちは変わると思います。

問題点その2. 格差や差別の助長

信用スコアによって起きそうな負の影響の代表的なものは、格差や差別の助長です。

信用スコアが普及した社会では

• 高い信用スコアを持つ人は周囲から高く評価されて快適な暮らしができる

• 低い信用スコアを持つ人は社会からそのスコアなりの評価をされ不利益をこうむる

このような状況が生まれる可能性が高くなります。

信用スコアが低いとこれがスティグマ（烙印）のようになり、生活に悪影響を与える可能性があります。

具体的にどのように格差や差別を助長しそうなのか、事例を挙げます。

バーチャル・スラム – 信用スコアが低い人は水準が低い生活を余儀無くされる

アメリカや中国では、人材採用の現場で応募者の信用スコア（アメリカではクレジットスコア）の数値を参考にしています。

https://pecu-nia.com/creditscore-employment/

就職や転職以外でも

• 賃貸物件の入居審査

• 各種ローンの審査

などで信用スコアやクレジットスコアが参考情報として利用されています。

もし信用スコアが社会に浸透したら、生活のさまざまなシーンで信用スコアの提示が求められるようになります。

みんな自分たちで手間や時間、さらにはお金をかけて個人の信用力を分析するよりは、すでに作成されている信用スコアを効率的に使いたいと思うものなのです。

よって、もし信用スコアの数値が低いと、数値が高い人と比較して

• 就職がうまくいかない

• ローンが組めない

• 人気のある家に住めない

などの状況に陥る可能性が高くなります。

就職がうまくいかないと、年収に悪影響が出ます。

こうなるとローンが組みにくくなりますし、良い家に住むことも難しくなります。

となれば、信用スコアの数値が低いと全体的に低水準の生活を余儀なくされる恐れが出てきます。

このような状態は総称として「バーチャル・スラム^[1]「バーチャル・スラム」は慶應義塾大学教授の山本龍彦さんによる造語です。」と呼ばれ、信用スコアが普及した社会では大きな問題となる可能性があります。

信用スコアが学歴や職歴に代わりになることもある

信用スコアが普及すると

• 就職がうまくいかない

• ローンが組めない

• 人気のある家に住めない

などの状況に陥る可能性がある、とすでに述べました。

これは悲観的な見方で、もし信用スコアが社会に浸透し、自身の努力によって確実に信用スコアが向上するような仕組みになっていたと仮定します。

このような状況であれば信用スコアが

• 学歴

• 職歴

などの代わりになり、学歴や職歴があまり良くなくても信用スコアが高いから信用スコアの評価が優先され、よい就職先に入れたり良い条件で融資（ローン）を組めたりする可能性が出てきます。

このように、信用スコアには上手く機能すれば人を救済するような力もあるのです。

スコアの高低でのマウンティングの増加

格差を助長するとまでは言いませんが、マウンティングの問題も信用スコアによって増加すると思います。

個人の能力や人格を評価する信用スコアの高低によって、マウンティングが発生するというのは皮肉です。

しかし、年収や学歴などのようなわかりやすい情報はマウンティングの対象になりやすいものです。

信用スコアをつかったいじめの増加

信用スコアは、個人の信用力が誰にでもわかるように数値化されたものです。

数値なので子供でもわかります。

もし18歳未満でも信用スコアが作成できるような状況になれば、児童間で信用スコアを使ったいじめなどが発生するでしょう。

ただ、これに関しては信用スコアを運営する会社が利用者を

• 18歳未満

• 20歳未満

のように制限するでしょうから、問題は起きにくと思います。

しかし、大人だからいじめをしないという訳ではないので、大人気ない人は信用スコアを使って他者をいじめるはずです。

問題点その3. 監視社会によるメンタルヘルスへの悪影響

中国の芝麻信用や社会信用システムがメディア等で紹介されると

• SF小説のような監視社会の到来だ

• すべての行動が監視されるディストピアだ

このように発言する人たちが増加します。

https://pecu-nia.com/zhima-xinyong/

確かに、もし信用スコアが普及したらいつも何かに監視されていると感じる人は増えると思います。

これが監視社会というものかどうかはわかりませんが、メンタルヘルスには良い影響を与えないでしょう。

メンタルヘルスにどんな影響があるかを考えます。

自分の行動がデータとして残り評価されるストレス

繰り返しになりますが、信用スコアはAIがパーソナルデータを分析することによって作成されます。

パーソナルデータはAIが分析しやすいような形式でないと参考になりません。

よって、サーバー上でデータとして記録されやすいWEB上のデータが分析に使われることが多いです。

なかでも

• キャッシュレス決済のデータ

• CtoC（個人対個人）での相互レビューのデータ

このふたつは特に重要視されます。

人によってはこれらのデータが（もし提携していたとしたら）信用スコアの分析に使われることに不安や嫌悪感をいただくと思います。

そして、日々増えていくデータによって評価されることにストレスを感じるでしょう。

いつも誰かに自分の行動をチェックされているようにも感じるかもしれません。

ネットの言動も現実世界と同じように気にしなくてはいけない

現実世界で会うととても冷静で紳士的な人物なのに、インターネット上のブログやTwitterなどのSNSでは攻撃的で、まるで人格が変わってしまうような人物がいます。

なぜこのようなネットとリアルで性格の不一致が起きるのかはわかりませんが、信用スコアはインターネット上のデータも評価対象にするので現実世界とネットでの人格的に不一致は不利になりかねません。

では、現実世界とインターネット空間での人格を統一すれば良いだけなのですが、これができたら炎上やフェイクニュース・デマなどは起きません。

もしインターネット上で暴れてストレスを発散しているのであれば、ネットとリアルの性格を統一した方が有利になりそうな信用スコアはストレス増加につながるかもしれません。

問題点その4. 信用スコアをネタにした詐欺等の犯罪増加

信用スコアはかなり新しいサービスです。

なので、若者以外の人にとっては考え方や仕組みがわかりにくかもしれません。

それでももし信用スコアが流行していたら利用者は増えるでしょう。

なかには全く理解できないのに信用スコアにのめり込む人も出てくるはずです。

そんな人をターゲットにした詐欺をもくろむ人たちがかなり高い確率で登場するだろうと考えています。

事例をひとつ挙げます。

「スコアが上がる」と騙して購入や登録を促す詐欺

信用スコアを使った詐欺でもっとも多くなりそうなのが、

「これをすれば必ず信用スコアが上がる」

などと人に声をかけ

• 特定のサイトへの登録

• 特定の商品の購入

などを促す詐欺です。

もちろんこのような勧誘をうけ、言うことを聞いても信用スコアにはさほど影響はありません。

たまたま上がったりするかもしれませんが、偶然です。

他にもどんな詐欺が起きそうかは下記のリンク先でまとめましたので、興味がある方はご確認ください。

信用スコアに限らずどんな物事にも良い面と悪い面がある

ここまで、もし信用スコアが日本で普及したら問題となりそうな出来事を挙げました。

信用スコアに限らずどんな物事にも良い面と悪い面があります。

問題点だけを見るとかなり不安な気持ちになりますが、信用スコアにはメリットもあります。

もし信用スコアを作成するにあたって

• ボランティア

• 寄付

などをしているかどうかがデータとして参考にされていれば、信用スコアの向上が目的とはいえこれらの行動をする人が増える可能性だってあるのです。

このように良い面だってあるのです。

信用スコアやデータ社会の問題点については、慶應義塾大学の山本龍彦教授の著書である

「おそろしいビッグデータ 超類型化AI社会のリスク」

にかなり詳しく書かれています。

当記事で書かれている以上のことを知りたい方は、この本を読めば理解が深まると思います。

前提知識が少ない方でも読みやすいようにやさしく説明されていて、誰でもストレス無く読めるのでとてもおすすめです。