「社会的選択理論に興味があるなら面白いかも」
と勧めてもらった、アニメ『サイコパス』の1話〜5話を見てみました。未来都市が舞台で、主人公は警察に配属された新人です。「犯罪係数(犯罪をする可能性が高さを示す数値だと思われる)」と呼ばれる数値が基準以上の人を取り締まるような仕事に従事。未来都市においては、VR空間が現在よりも発展していたり、システムが人々の仕事の適性を決めるなど、10〜30年後の社会を考える上で示唆に富むアニメでした。
この記事では、僕の専攻である社会的選択理論の観点から(もう少し広くいえば「アルゴリズム社会」を考えるための知恵という観点から)、気になったセリフや考えたことをまとめてみます。
なお、5話までしか見ていないため警察が使っているシビュラシステムと呼ばれるシステム(AIとかアルゴリズムと呼んだ方がイメージに近いかもしれない。この記事ではシステムという言葉で通す)が社会全体に対してどの程度の影響力を持っているかはよく分かっていません(社会全体を統治しているかんじではなさそうだけど犯罪予想と職業適性の判断の他に何を判断するシステムなのかは分かっていない)。アニメを見た方からすると的外れな部分はあるかもしれませんがご了承ください。アニメからinspireされた思考を共有するのが目的です。
1話で気になったポイント
・犯罪係数が同じでも自分の責任じゃないときにはどうする?
逃走犯に誘拐されてしまった女性が、もともとは問題ない犯罪係数だったのに、誘拐されて犯人と関わってしまったばかりに心に影響が出てその人の犯罪係数も上がってしまう場面があった。その人の現状を見ればその人は社会にとって有害と判断されるかもしれないが(今回の場合では”犯罪を犯しそう”と判断されたわけだが)、そうなった経緯がその人の責任とは言い難い状況だったわけだ。そうすると、犯罪係数なるもので一律で処罰などを決めてしまうのはどうなんだろうとなるわけで、「経緯」みたいなものも考慮されるべきだよなと思った。
アニメにおいて、犯罪係数が同じであれば同じように扱われているようだった点には違和感を覚えた。もう少し丁寧に考えた方がいいのではないか。この辺は「人々は何に責任を負うのか」という社会的選択理論における話題も関連しそう。
2話で気になったポイント
・「経済省や科学技術省の適性だって出てたのにそれ全部蹴って公安局選んだんでしょ」
これは主人公が友人から言われたセリフ。システムが適性のある職業を教えてくれるということは知っていたが、このセリフを聞いたことで「あなたの職業はこれです」というかんじではなく、いくつか候補が上げられるような形だと分かって、「そういう意味では自由もあるわけね」と思った。システムが判断する、と言っても幅を持たせることはできるわけだ。
数学的にいえば人々の集合から職業の集合への関数ではなく、非空対応を考えるようにすれば自由みたいなものも考えられるわけで、このへんの話は社会的選択理論の中にも文献があるはずなので面白いなと思った。人々の自由に価値をおきながらも指示もするシステムみたいなものを考えることもできるかもしれない(むしろ現状における”表面上は自由に選べる社会”よりも、システムが指示してくれる方がある意味において"自由な社会"になることもありそう)。
3話で気になったポイント
・「あらゆる電波が遮断されている以上、この施設の中ではシビュラシステムの支援は受けられない」
これはハッキングされると困るような国が管轄する工場を主人公たちが訪れたときのセリフ(外部との通信ができないようになっている施設で事件が起きて訪れた)。このセリフを聞いたときに「このアニメにおいてはすべてをシステムが統治しているディストピアってかんじではないわけね」と分かった。システムが情報を取れないような領域もあって、また取得している情報もすごく多いわけではなさそう。
「アルゴリズム社会について考察しよう」と思うと、いままでは「システムがすべてを統治する社会になったらどうなるんだろう」みたいに極端な想像をしがちだったが、そりゃいきなり「すべてを統治するシステム」のようなものが現れるというよりは、国が局所的に役立つシステムを活用したり、特定の会社やコミュニティーが内輪のシステムを開発するみたいなフェーズが訪れると考えるのが妥当だよなと思った。
「システムが支配する(主役になる)社会」と言っても色々なパターンがあるわけで(社会において活用されているのが1つのシステムなのか複数のシステムなのか無数のシステムなのかなど)、漠然と「システムが支配する社会」のような言葉で議論するのはさすがに解像度が低すぎる気がしてきて、ここの整理は重要だと思った。
4話で気になったポイント
・「あいつにとっての正義はーー(中略)ーーだ。」
システムの指示に従って行動する執行官の1人について他の執行官が主人公に対して言ったセリフであり、"その人にとっての正義”って言葉は重要そうだと思った。システムが何かを指示してそれに従っているとしてもその人の心の中には色々な思いがあるだろうし、場合によってはシステムに対して反感を覚えた上で従っているだけかもしれない。
アニメに出てくるシビュラシステムと呼ばれるシステムは、人間1人1人がその人だけのストーリーを持って生きているということに無頓着なかんじがしたが、もしそれぞれの人がその人だけの複雑で繊細なストーリーを持っているということに意識的な「社会を統治するシステム」ってものがあるとするとどんなかんじだろうという問いが浮かんできた。社会的選択理論とかでもこういう「ストーリー」みたいなものを扱うように発展させられたりしないかな?現状の理論とは大きく変わってしまうけど個人的には重視したい視点。
5話で気になったポイント
・同一のアバターだが背後の人が変わる。
アニメの中では人々がVR空間においてアバター(キャラクター)になって活動していたが、ある人が複数のアバターを使ったり、ある人が使っていたアバターを他の人が奪ってしまうようなことが起きていた。現在もゲーム内とかでは起きているのかもしれないが、現実世界とは違う人格が存在するってのは面白いなと思った。
場合によっては、現実世界のAさんという人格のことは50%くらい信用しているけど、Aさんが使用しているA’というアバターのことは70%信用していて、Aさんが使用しているA'’というアバターのことは10%しか信用していない、みたいなアバターに独自人格と信頼スコアを考えるような状況になってもそこまで不自然ではないかもしれない(人々が持っている予想としての信用なのかシステムが与える信用スコアみたいなものかは分からないが)。またアバターの挙動を、複数人の意見のaggregationによって決めるような状況や外部要因によって一部決めるようなことも考えられるだろう。
このように考えるとVR空間の活用が進んだ社会においては、「現実世界に人々がまずいて、その上でその人たちがVR空間に入ってアバターを使用する」みたいな単純な世界観で作った知恵がどこまで役立つかは疑問だ。もしかしたら個人と同じレイヤーでアバターが存在するという定式化がfitするかもしれない。ただ、このへんのことを考える上で、「これはバーチャルじゃない。殴れば血が出るしナイフ一つで命を奪えるリアルな空間だ」というセリフも出てきていて、この点は重要になりそうだなと思った(単純に現実とVR空間を同列に考えたり個人とアバターを同列に考えるのは難しそうだ)。
・
・
・
以上です。
最後に全体を通して思ったこととして、「未来の社会について考える際に社会的選択理論って結構役立ちそうだな」と思いました。自由とか権利とか平等とかそういう概念を数学的に表現したり考察する。こういうのはアルゴリズム社会が到来した場合にはもちろんのこと、到来させるべきかなどを考える際にも役立ちそうです。さすがにいまの社会的選択理論において応用例として上のようなテーマを考えるのは学問的には異端すぎるのでやりませんが、個人的な趣味としては色々考えてみたくなりました。
Fin.