著者:ジョン・チェニー=リッポルド
現代社会を生きていくうえで、知らずに済ますことのできない内容が書かれています。このあたりをしっかりと把握できていないとメディアにコントロールされる、まさに『1984』のビッグブラザーの世界になってしまっていることにも気づかないでいてしまう、そんな恐怖感に苛まれました。(Inobe.Shion) |
内容紹介
Googleが知ってる〝あなた〟は誰? 検索履歴やスマホの位置情報から自動的に生成され、 アルゴリズム解析を前にすると、「私たちが何者なのか?」という問いは、「コンピューターは私たちを何者だと言っているか?」という問いに等しくなる。アルゴリズムによって「セレブリティー」とされたり「信用できない」とされたりするのと同じように、生身の個人としての自分を無視された私たちは、自らの生をコントロールできなくなる……。[序章より] ……著者は述べる。「私たちは、私たちの実在がもっぱらデータである世界に生きているわけではなく、私たちの実在がデータによって拡張される世界に生きている。つまり、私たちはすでにデータでできている。…テクノロジー派未来主義者の言うシンギュラリティーは決して訪れない。なぜなら、すでにここにあるからだ。」 著者について ジョン・チェニー=リッポルド(John Cheney-Lippold) 米国ミシガン大学アメリカ文化学部デジタル研究分野の准教授で、デジタル市民権、アイデンティティーとプライバシー、監視社会についての講義を担当し、インターネット、カルチュラル・スタディーズ、コードとアルゴリズム研究を専門とする。研究論文に“A New Algorithmic Identity: Soft Biopolitics and the Modulation of Control”(「アルゴリズムによる新たなアイデンティティー:ソフトな生政治と調整型支配」、2011年12月)など。 |
リサ・ギルテマンとバージニア・ジャクソンという学者たちの言葉を借りれば、データは大地から自然に生えてきたりはしない。データとは、人が収集し、研究者たちが手を加え、最後に理論家たちが料理して、この世で起こっていることを説明するのに使うものなのだ。だとすれば、d-たが何を語っているのかを代弁する者たちは、私たちが自分自身をどのように理解し、どのように世界の中に位置づけるのかを規定する莫大な影響力を手にしていることになる。(p.11) |
控えめに言っても、いま、この世界で私たちがしていることの大半は、誰かに見られ、記録され、分析されて、データとして蓄積される可能性がある。ソフトウェア開発者のマチュイ・セグウォフスキは次のように述べている。「全体監視が行われるようになった理由は、おおよそのところ明らかだ。ストレージ機器の価格が下がったために、すべてを保存しておけるようになったこと。それからコンピュータの処理速度が上がったために、手に入った情報をリアルタイムにでも、あとになってからでも分析できるようになったことだ。私たちの日々の活動にはソフトウェアが存在している。見たものすべてを記録し、報告するようにソフトウェアを設定することは簡単だ」。最も性能の低いスマートフォンで単純なウェブ検索をするだけでも、長大なデータが新たに生み出され、記録に残る。(p.15) |
なるほど、ネット上での行動はもちろん、監視カメラ、GPSなどによってもログがどんどん蓄積されそのログが分析され、その人のアイデンティティが特定のアルゴリズムによって識別されていくという事実・・・このことの説明になります。
私たちのデータはさまざまな形でアルゴリズムにかけられ、意味付けられて、ラベル付けに使われる。そのプロセスは、私たちが直接参加することも、知ることもなく、多くの場合は黙認することさえなく実行される。パスクワーレが言うように、「エンコード(符号化)されたルールによって実効性を持った価値や特権は、ブラックボックスの中に隠されている」のである。つまり、アルゴリズムを通じて解釈されるとき、私たちの社会的アイデンティティーは、本当は少しも社会的なものではない。ブラックボックスの中で衆目され隠され、独占されているからだ。しかし、そこから生まれる言説が、マーケティングや政治運動、さらにはNSAのデータ分析で使われ、私たちのオンラインにおける現在と未来の姿が修正されていく。こうした世界における私たちの人格は、私たちが自分自身のアイデンティティーをどう定義しているのかや、どういう言動を選ぶのかだけでは決まらない。・・・私たちが何者なのかは、私たちのデータが語るものでもあり、その語られ方はアルゴリズムがデータをどう解釈するかで決まる。私たちは、先に述べた「アルゴリズム上のアイデンティティー」が私たち自身の上に何層も積み重なってできている。(p.17) |
「アルゴリズム的統治性」では「その影響下にある生身の人間は単純に無視され、『統計的存在』のみが『臣民(subject)』としての唯一性や、心の中にある動機や意思は問題にされない」。アルゴリズム解析を前にすると、「私たちが何者なのか?」という問いは、「コンピューターは私たちを何者だと言っているか?」という問いに等しくなる。アルゴリズムによって「セレブリティー」とされたり「信用できない」とされたりするのと同じように、生身の個人としての自分を無視された私たちは、自らの生をコントロールできなくなるだけでなく、生そのものの定義までコントロールできなくなっていく。(p.18) |
オンラインのあなたの姿は、あなたが思い描いている自分像とは違うということだ。アイデンティティーがアルゴリズムによって構築されるために生じる重大な結果として、アイデンティティーをめぐる支配・被支配の営みが、資本と国家権力だけが知り、使うことのできる言葉へと書き換えられることが挙げられる。・・・そして、自覚しようがしまいが、こうして生み出されたアイデンティティーは私たちの生に影響する。・・・オンラインにおける私たちの人格や、その人格が持つ意味は、広告業者やマーケティング企業、政府によって決められる。こうした分類によって形成されるアイデンティティーは、あなたがどうやって生きてきたのかや、自分のことをどう認識しているかといった、あなたが「あなた」である理由とは無関係に機能する。(p.20) |
アルゴリズムがほぼリアルタイムのデータを処理するとき、データ・パターンに基づく動的で抽象的な類型が生まれ、それがアイデンティティーそのものの、新たな、実効的な指標となる。この抽象の働きは、具体的な未来を予測するためでも、ある一つの規範を実行化するためでもなく、最も有効な類型上のアイデンティティーを生み出すためのものだ。そして、そこでどのようなアイデンティティーが生まれるかは、入手可能なデータとアルゴリズムそのものの出来によって決まる。これを踏まえると、アルゴリズムが生み出す知識に絶えず抜本的な修正が加わるオンライン世界において、グーグルが私の性別と年齢を誤って認識したことは、エラーとは呼べない。これは再構成と呼ぶべき現象だ。新たに作り出されるアルゴリズム上の真実は、本物であることにこだわらず、分類の基準として有用であることを重視する。この世界には、私たち個人が歩んできた過去や自己認識といったものに忠実であろうという考えは存在しない。(p.25) |
データの世界において、私たちはデータ生成の巨大な生態系に参加している。私たちはデータを生み、そのデータが何を意味するのかをアルゴリズムに伝える。その結果生まれる定量的理念型は、私たちがそれまでと違う行動をすれば、変化する。(p.143) |
私たちが何者になるか、知識というものが何であるかは、真実の関数ではない。アルゴリズムからアウトプットされ、”真実”として私たちに提示されるものの関数だ。グーグルが言う”私”こそが、私なのだ。もし私がネットサーフィンの習慣を大きく変えたとしても、グーグルは私というウェブ利用者を捨て去るわけではない。その代わり、私が生み出すデータをアルゴリズム世界に当てはめ直し、私という人間に対する解釈を改めて概念化するのである。この再概念化の働きは、システムを装った権力(例えばグーグルや、クアントキャストなどの広告企業、さらにはNSA)の下で生のありさまが測定され、使えるようにされ、ひいては管理される限り、生きるということの起源や意味は重要ではないという事実を示している。(p.146) |
すべてが誤っているということこそ、一部が有用であることと合わせて、アルゴリズム・モデルを強力なものとしている。一般化という現象自体に言えることだが、アルゴリズムの働きから生じる知識は、たとえエラーが目立つとしても、多かれ少なかれ真実とみなされる。・・・私たちは類型というものの本質、つまり、その類型が発している本物らしさにとらわれる。なぜなら、それなしでは、その類型の持主であることの意味がわからなくなるからだ。(p.221) |
「モデルの誤り」を含むアルゴリズム上の現象として知識の生成を再編成すると、ビッグデータには理論がなく、客観的だという見方が欺瞞であることに気づく。有用であるということは、有用であると判断されたということだ。つまり、「用いる」という行為はモデルの作り手の意図か、偶然による創造のない場所では起こりえない。(pp.221-222) |
言説が絶え間なく再編されるため、私たちの人格は安定することがない。”あなた”は、それぞれに定量的理念型が割り当てられた意味の入れ物をいくつも寄せ集めてできている。入れ物の中身が変われば、”あなた”も同じように変化する。”あなた”も入れ物も永続的なものではない。どの入れ物も新しいデータが注がれるたびに変形する。ある入れ物が、”あなたものも”だという主張は、その入れ物が違うものになったという事実によって覆される。すでに変化してしまったのだ。(pp.223-224) |
つながりは、私たちのデータ化された世界の共通語であり、束縛の源であると同時に、成長の糧でもある。断片が一つあるだけのデータには何の意味もないため、リベラルな主体の自治制を偏愛すれば、他者が存在に餓えることになる。パターンは一人の人間からではなく、人の集まりから生まれるものだ。アルゴリズムが私たちを解釈するときは、必然的に、私たちを他者の生活と結びつけることになる。この話は人間的な美しさを感じさせる一方で、統制ももたらす。”私たち”の行為に基づいて生を管理する。しかし、”私たち”も”あなた”も崩壊する可能性がある。アルゴリズムによる評価に干渉するには、アルゴリズムの言葉を使うとともに、私たちが連携して行動する必要がある。(pp.294-295) |
ここまで語るか、というくらい哲学的になってきましたが、しびれるくらい考えさせられますね。
何より不愉快で、何より重大な問題は、フェイスブックとは全く違う相手が、フェイスブックの実験と同じくらい大規模に、私たちを毎日おもちゃにしていることだ。私たちのデータ化した主体性のすべてが、こうした変動に影響されている。不変性がニュースフィードの土台になっているという思い込みが、実は嘘だったのと同じことだ。デジタル世界におけるプライバシーは、この嘘への生きた抵抗であり、反抗的であるがために評価されるのではなく、必要だからこそ守られるべきものだ。(p.365) |
デジタル時代の個人とは、「アルゴリズム・アイデンティティー」を意味している。私たちのアイデンティティーが、アルゴリズムにトランスコードされる時、それはどのような社会的、政治的な結果を引き起こすのか?グーグルやフェイスブック、政府機関によって蒐集された個人データが、人間の経験とアイデンティティーをどのように変えているか?・・・アイデンティティーとは、人間に特有の概念である。それは、誰にも侵入されない自己意識の「私」であり、あらゆる文化に住む人々の共通感覚である。デカルトが言ったように、「我思う、故に我あり」はアイデンティティーの核心だった。しかし、現代社会はこの概念を混乱させている。国や企業は、パスポート、運転免許証、社会保障カードなどを個人と結び付けてきた。国境を越えてパスポートを失効した場合、アイデンティティーが失われる可能性がある。「我思うが、我はない」ことが起こる。(pp.444-445) |
さすがに私の専門に近いところなので、用語も問題なく解釈しながら読み進められましたが、専門外の方には若干難解なのではないかと感じます。
非常に哲学的でもあり、技術的なところもあり、私の問題意識とも共通する内容でしたので、興味深く読ませてもらいました。
ただ、おそらくまだ表面的なところしかとらえられていないので、もっと深読みすべきものだと感じています。