Weapon of Math destruction

 

あなたを支配し、社会を破壊する、AI・ビッグデータの罠 / キャシー・オニール

　原題が「Weapon of Math destruction」直訳すれば数学破壊兵器。機械学習、AIのアルゴリズムやモデルを皆さん盲目的に信じすぎやしてませんか？そこにはこれだけのリスクがありますよ、と警告する内容でオモシロかった。2年ほどデータアナリストの端くれとして小売業のビッグデータ解析に基づく最適化みたいな仕事をしていたので著者の主張に納得する点が多かった。当然データをあげた分、ポイント等で見返りはあるのだけど、そのデータと見合っているか？みたいなことはよく考えてしまう。本文にもあるが「プライバシーの保護は裕福な人にだけに許される贅沢になっていく」のだろう。(まさか政府まで似た手口で個人情報を入手しようとする時代が来るとは思わなかったけど)全く情報を出さないで生活するのは不可能だから、ときにこういった本を読み立ち止まって考えたいと思う。

　本著は啓発というよりはビッグデータ解析にまつわる現状の解説になっている。彼女自身がデータアナリストで金融業界で見た手口の話から始まり、その手口が教育、就職、仕事、身体、政治など身の回りに侵食してきている。そして、それを正のフィードバックループが機能することなく公平性を欠いて効率だけを追い求めた数学破壊兵器と本著では呼んでいた。大量の過去のデータから傾向を読み取って機械的に判断しているので人間よりも公平なのでは？と思うものの、その入力データがどういったものかですべては変わってくる。目的が志の高いものであれば良いが「人件費削減のために優秀ではない教師を手早くリストラしたい」のように「優秀ではない」の定義が非常に曖昧で定量評価できないものにAIというブラックボックスをかまして公平のような顔で選別する。公平よりも効率（＝利益）を優先する社会全体の空気はこういったテクノロジーの発展と無縁ではないのかもしれない。

　さらにこういったモデルによる評価は富裕層に適用されるケースは少なく貧困層に適用されることが多く、アルゴリズムによって貧富の差が広がっていくことの解説もあり、その視点は持っていなかった。結局どんなツールも使う側の目的が一番大事だけど使われる側もリテラシー発揮していかないとテクノロジーユートピアな現代では生き残れないだろう。過去のデータからは未来は生まれないことを肝に銘じたい。