ライフ・マネーライフ・マネー

中国で進む「AI管理社会」信号無視するとマイナス5ポイント

ライフ・マネー 投稿日:2020.02.03 16:00FLASH編集部

中国で進む「AI管理社会」信号無視するとマイナス5ポイント

 

 人工知能(AI=Artificial Intelligence)は、すでに私たちの生活の中に入り込んでいるが、私たちが予想していたとおりに表舞台に登場したわけではない。

 

 AIは私たちが移動するときに道案内をし、打ち間違った単語を解読し、何を買い、聴き、観て、読めばいいのかを教えてくれる。いわば、目には見えない生活基盤だ。そういう意味でAIは、私たちの未来を形づくるテクノロジーだといえる。

 

 

 AI研究者のほとんどは、米国のグーグル、マイクロソフト、アマゾン、フェイスブック、IBM、アップル(G-MAFIA)、中国のバイドゥ、アリババ、テンセント(BAT)というテクノロジー関連の9つの巨大企業で働いている。

 

 実際のところ、AIはどこまで社会に浸透しているのだろうか。

 

 1995年、中国の国家主席・江沢民は、テクノロジーを利用した社会監視システムを思い描いた。そして2000年半ばには、中国政府は自動化された採点システムを構築、導入しようとしていた。北京大学と提携して中国信用調査センターを設立し、AIを使った国の信用調査採点システムの構築や導入の方法を検討した。

 

 栄成市(山東省)では、すでにアルゴリズムを使った社会信用採点システムが運用され、AIの効果を示している。74万人の成人市民はそれぞれ、1000ポイントを割り当てられ、その後は「態度」によってポイントが増減する。「英雄的な行為」はプラス30ポイント、信号を無視すると一律マイナス5ポイント、といった具合だ。

 

 市民はラベル付けされ、区分され、A+++からDまでランク付けされる。自由に動きまわれるかどうかは、そのランクによって決まる。たとえば、Cランクの人は公共の自転車を借りるのに前払い金が必要だが、Aランクの人は90分間、無料で借りられる。

 

 採点されるのは個人だけではない。栄成では会社も「態度」で採点されている。ビジネスを行えるかどうかは、そのランク付けによって決まる。

 

 上海では、AIを使った指向性マイクやスマートカメラが高速道路や一般道路に設置されている。過剰にクラクションを鳴らすドライバーには、テンセントのウィーチャットを通じて交通違反チケットが発行され、近くのLED掲示板にその人物の氏名、顔写真、国籍、国民識別番号が表示される。

 

 ドライバーが道路脇に7分以上車を停めたら、さらにチケットが発行される。交通違反チケットや罰金が課せられるだけでなく、ドライバーの社会信用スコアからもポイントが引かれる。ポイントが一定レベルまで減ると、航空券の予約や新しい仕事に就くことが難しくなる。

 

 国家レベルでの監視は、BATによって可能になった。BATは、その代償としてあらゆる制度や産業政策に割り込んでいけるようになった。

 

 アリババの「芝麻(ジーマ)信用」は、国家のクレジットサービスの一部であることを公表していない。だが、それぞれのユーザーが購入した商品や、アリペイのソーシャル・ネットワーク・サービス上の友人などの情報をもとに貸出限度額を計算している。

 

 2015年、芝麻信用のテクノロジー・ディレクターは、オムツの購入は「責任ある行動」と見なされ、ビデオゲームをあまりに長くプレーしすぎると減点となると公に発言した。

 

 中国にはポリス・クラウドというものがある。精神的に問題を抱えている人、公に政府を批判した人、民族的マイノリティーの人たちを監視し、追跡するためのシステムだ。

 

 中国の社会信用スコアは、行動に基づいて市民を評価し、ランク付けする。判断を行うAIが、このスコアを利用して、誰がローンを組めるか、誰が旅行に行けるか、子どもをどの学校に入れられるかなどを決めるのだ。

 

 習近平は、2016年のイベントで、今後は、国内のネットワーク、デバイス、データをどう守っていくかについて、政府が完全な裁量を持つと述べた。そして「一帯一路プロジェクト」のパートナーたちにも、インフラとテクノロジーを提供する。

 

 東アフリカに位置するタンザニアは、初期にこうしたパートナーとして選ばれた。タンザニアはその後、中国のデータとサイバーポリシーを多く採り入れている。アフリカでは、各地で同じことが行われている。

 

 ベトナムは、中国の厳しいサイバー・セキュリティー法を採用している。もし中国が一帯一路プロジェクトのパートナーたちに影響を及ぼしはじめ、中国の主要な輸出品の1つが国家による社会信用採点システムということにでもなったらどうなるのだろう?

 

 トルコやルワンダのような独裁制の国が中国の監視テクノロジーの買い手になりうることは、容易に想像がつく。では、ブラジルやオーストリアのように、ポピュリズムに屈し、国家主義的なリーダーに支配されている国はどうだろう?

 

 もしあなたの国の政府機関が、社会信用採点システムを導入しようとしたり、強引に導入させられそうになったら? あなたの同意なしに、あなたの監視を始めたとしたら? そうなったときには、監視対象リストに自分の名が載っていることや、スコアの存在そのものを知ることができるのだろうか?

 

 

 以上、エイミー・ウェブ著、稲垣みどり翻訳の『BIG NINE 巨大ハイテク企業とAIが支配する人類の未来』(光文社)をもとに再構成しました。米中AI戦争の恐るべき結末とは?

 

◯『BIG NINE』詳細はこちら

もっと見る

ライフ・マネー一覧をもっと見る

ライフ・マネー 一覧を見る

今、あなたにおすすめの記事