アルゴリズムによる監視社会とは？データ追跡の仕組みと企業・政府の活用実態

最近、SNSのアルゴリズムの話ばっかりだよね

最近、SNSのアルゴリズムがどうとか、こうとか、そういう話ばっかり耳にするよね。正直、その議論ってちょっとズレてるんじゃないかなって思うことが結構あるんだ。「3秒ルールを守れ」とか「怒りを煽る投稿（レイジベイト）がいい」とか、そういうアルゴ-…アルゴリズムをハックするみたいなテクニック論に終始しちゃってて。でも、問題の本質はそこじゃないんだよね。

これって、別に新しい話でもなくて。昔のテレビ局だって同じことで悩んでた。「どうやって視聴者にチャンネルを変えさせないか」ってね。でも、決定的に違うことがある。昔は、僕らがリモコンを握ってた。どのチャンネルに変えるか自分で決めてたし、CMが終わったらまた同じ番組に戻ってくるって分かってた。コンテンツは構造化されてて、有限で、次に何を見るか、僕らにははっきりとした主導権があったんだ。

でも今はどう？次に何を見るか決めるのはアルゴリズム。何十億っていう動画の中から、次の1本が「あなたのために」選ばれて、目の前にポンと置かれる。こっちはリストをスクロールしてるつもりでも、実際には見えない基準でコンテンツを「与えられてる」だけ。同じ動画にもう一度たどり着くのも、好きだったクリエイターをもう一度見つけるのも、ほぼ不可能。彼らのコンテンツは、文字通り無限のコンテンツの海に消えていってしまう。注意を引きつけたいっていう作り手側の闘いは同じでも、僕ら見る側は、自分がどんなシステムの上で踊らされてるのかさえ、よく分かってないんだ。

で、具体的に何が一番ヤバいのか？

僕が一番「これはマズいな」って感じてるのは、プラットフォームの個性がどんどん失われて、全部同じに見えちゃうこと。いや、見た目だけじゃなくて、中身がね。昔は、各SNSアプリに明確な「性格」があったと思わない？

Tumblrとか、Pinterest、Reddit、一時期のYouTubeだってそう。すごくニッチなコミュニティのために作られてた。でも、利用者が増えるにつれて、どんどん角が取れて、丸くなっていった。今じゃ、昔の面影もないくらい薄味で、ミニマルな見た目になっちゃってさ。昔みたいに、無名の誰かが自由に自分を表現する場所じゃなくて、本気でコミットしないと注目してもらえない場所に変わってしまった。それが悪いってわけじゃないけど、昔ほど気軽じゃなくなったのは確かだよね。

正直、昔の小規模なオンラインコミュニティの方が、ずっと健全だったと思う。独自のガイドラインがあって、オーディエンスも限定的で、ニッチな興味で繋がってた。インターネットって本来、そういう繋がりのためにあったんじゃないかって言う人だっているくらいだし。

例えばさ、今のLinkedInって、Facebookと何が違うんだろう？（笑） 自分を堂々と自慢できるプラットフォームっていう点以外でね。エンゲージメントを稼げるコンテンツが、他のどんな情報よりも優先されるように設計されてる。個人的には、それって「プロフェッショナルじゃない」って言ってるのと同じに聞こえるんだけど…まぁ、これは主観だけどね。

失われた子供たちの「遊び場」

もっと深刻なのは、子供たちの世界で起こってること。多くのアプリは「年長者向け」っていう名目で、たくさんのコンテンツを検閲してる。でも、そんなの真面目にやってないことなんてみんな知ってるよね。だって本気でやったら、プラットフォーム側が大損するんだから。「子供向けじゃない」って曖昧で一貫性のないガイドラインを書いておきながら、子供向けコンテンツと、完全に野放しの大人向けコンテンツが同じプラットフォームに共存してる。しかも、あの悪名高い、何を考えてるか分からないアルゴリズムの上で。

今じゃ、子供をターゲットにしたメディアパーソナリティとかクリエイターまで出てきてる。でも、その子たちは、僕らが同じ年の頃に当たり前に触れていた、もっと有益な何かを奪われてるんだ。それが、インタラクティブなウェブサイト。

真っ先に思い浮かぶのは「Club Penguin」。知ってる人いるかな？ああいうのって、ただオンラインで集まるだけじゃなかった。好きなアニメのキャラクターとか、映画とか、絵本をベースにしたウェブサイトがたくさんあって、そこにはパズルゲームがあったり、自分のアバターをカスタマイズしたり、ペットを育てたり、家を建てたりできた。ただのFlashゲームが山ほど置いてあるだけの、あの頃の雑多なサイトでさえ、頭を使う刺激があったんだ。

これって、ただコンテンツを「消費」するのとは全く違う。遊んで、学んで、考えて、探検してた。子供たちは、わざわざ大人のスペースに入り込もうなんて思わなかった。あの頃は、大人と子供のオンラインコミュニティは、はっきりと分かれてたんだ。

今のネットって、なんだか巨大でカオスな親戚の集まりみたいじゃない？誰かを怒らせずに何かを言うのは難しいし、子供たちがこっちの退屈な政治の話を真剣に聞いちゃってるから、こっちも言葉を選ばないといけない、みたいな。子供たちは遊べばいいのにさ。

結局、問題の根っこは「ブラックボックス」ってこと

もちろん、僕らもアルゴリズムの「定義」は知ってるよ。（面白いことに、リサーチしてて一番よく見つかる答えは「アルゴリズムとは何か」「機械学習とは何か」っていう説明であって、それが「実際にどう動くか」の説明じゃないんだよね。）システムが僕らの行動や反応を計測して、アプリに長く滞在させるようなコンテンツをオススメしてくる、ってことも知ってる。でも、それだけじゃ全然足りないんだよ。

その「中身が秘密のアルゴリズム」が、政治的な分断を助長してると言われたり、ユーザーがはっきり「興味なし」をクリックした後でも、特定のコンテンツを特定のグループにプッシュし続けてることが知られてたり。ただユーザーを夢中にさせるだけじゃなくて、もっと怒らせるようなコンテンツ、エコーチェンバーやヘイトスピーチ、陰謀論を煽るようなコンテンツを見せるように設計されてる。おまけに、特定のグループをこっそり表示させなくする（シャドウバン）みたいな、選択的な倫理観で動いてる。

これら全部が、ポリティカリー・コレクトな「コミュニティガイドライン」っていう旗印の下で行われてるんだから、皮肉としか言いようがない。あれだけ有害なコンテンツを垂れ流しておきながら、倫理を説いてるんだからね。こういう状況で、「そのアルゴリズ ムって、実際どうやって動いてるの？」って聞くのは、ごく普通の反応じゃない？この情報を隠し続けるのって、もう倫理的にアウト寸前じゃない？

そこで、昔のネットと今のネット、何がどう変わっちゃったのか、ちょっと比較してみたくなった。こんな感じかな。

じゃあ法律は？GDPRとかあるじゃん、って思うでしょ？

そう、そこなんだよ。僕らのデータは、もう自分たちのコントロール下にはない。データを処理されて、知らないうちに売られることに「同意」させられてる。そして、そのデータは本質的に、完全に消去されることはない。僕らの好み、政治的な見解、信じていること、行動、話し方、何に反応するか…全部記録されてる。その理由は、決して明確にはされないまま。

多分、あのアプリたちは、僕らの家族よりも僕らのことをよく知ってる。

これを受け入れるのは、正直かなりキツかった。特に、EUのGDPR（一般データ保護規則）みたいに、プライバシーを守るための法律や規制の話をよく聞くからね。でも、これらのルールって、実はソーシャルメディアのアルゴリズムがどう機能するかっていう核心部分には触れてないんだ。

法律が重視してるのは、データの収集に関する「同意」と、そのデータへの「アクセス権」。でも、そのデータが、僕らが見るものや信じるものを左右するためにどう使われているか、っていう点についてはノータッチ。これは、日本の個人情報保護法も基本的には同じ方向性だよね。結局「データを集めていいですか？」っていう入り口の話がメインで、そのデータをアルゴリズムがどう調理して僕らの脳に影響を与えてるかっていう、一番知りたい部分はブラックボックスのまま。

だから、企業が「法律は守ってます」って言っても、それは技術的には正しいかもしれないけど、彼らは相変わらず僕らの情報を集めて、僕らの行動や信念を形成し続けることができる。ゴールは、僕らの行動を予測して、エンゲージメントを維持することだから。

これって、当たり前のことなの？

もし人々がここで話してるような問題を理解し始めないと、こういう怪しいやり方は続くだけだろうし、プラットフォーム側は、どうせ誰も気にしないんだからって、変更についてユーザーに知らせることさえやめてしまうかもしれない。いや、もう説明なんてほとんどしてないか。

テクノロジーの世界で、僕らがこれを当たり前のように受け入れてるのって、すごく奇妙なことだと思う。法律が制定されるとき、僕らは「法律とは何か」っていう定義だけじゃなくて、法律の全文を見せられる。でも、アルゴリズムに関しては、「アルゴリズムとは何か」っていう漠然とした説明を与えられるだけで、特定のプラットフォームでそれが「どう機能するか」は絶対に教えてもらえない。

もし政治家が、新しい法律の内容そのものを明かさずに、「法律とは、社会のルールです」なんて説明だけで政策を正当化しようとしたら、どう思う？僕らが今、SNSとの関係で常態化させてしまっている不透明さって、そういうレベルの話なんだ。

このままでいいのかな？それとも、この問題にちゃんと向き合う新しい法律やルールを求めるべきなのかな。みんなはどう思う？最近、好きだったアプリがなんだかつまらなくなったな、って感じることない？