AI・ビッグデータの罠 (3): はまのおと

（全体の目次はこちら）

AI・ビッグデータの罠 (3)

- 「規模拡大が格差拡大を助長」 -

キャシー・オニール (著)
　久保尚子 (翻訳)
あなたを支配し、社会を破壊する、
AI・ビッグデータの罠
インターシフト

（書名または表紙画像をクリックすると
　別タブでAmazon該当ページに。
　以下、水色部は本からの引用）

を読んで、
現在社会で使われている
AI・ビッグデータを利用した
システムが持つ問題点を学ぶ3回目。

　＊　「エラーフィードバックがない」
　＊　「類は友を呼ぶ、のか」

に続くキーワードは、

keyword_3「規模拡大が格差拡大を助長」

これまでの記事でも書いた通り、本には
数学破壊兵器による破壊の状況が
いくつも並べられている。

効率性と公平性を謳いながら、
その陰で、高等教育を歪め、
人々を借金に駆り立て、
大量投獄に拍車をかけ、
人生の節目ごとに貧しい人々を苦しめ、
民主主義の土台を蝕んでいる。

この現状を変えるには、
数学破壊兵器の一つひとつに対処し、
順に武装解除していくしかないように
思われる。

仮に各システムに問題があったとしても、
なぜ「民主主義の土台を蝕んでいる」
とまで表現されるほど、絶望的な状況に
なってしまうのであろう。

一般に、
特権階級の人ほど対面で評価され、
庶民は機械的に評価される。

という面があることも関係している。

この「機械的に」に
数学破壊兵器が利用されることが
多くなっているからだ。

そのうえ、デジタルであったり
ネットワーク環境であったりという
システムの基盤自体が
より問題を大きくしている。

問題は、これらの数学破壊兵器が
互いに絡み合い、
補強し合っていることだ。

貧しい人々ほど、
クレジットの状況は悪く、
犯罪の多い区域で
自分と同じように貧しい人々に
囲まれて暮していることが多い。

その事実を示すデータが
数学破壊兵器の暗黒世界に
一度でも流れれば、
低所得層向けサブプライムローンや
営利大学の略奪型広告に
追い回されるようになる。

システム間の補強が、つまり
システム間でのデータの流用や共用が
どうしてそんなに簡単に
許されてしまっているのか、の疑問は
本文を読んでも解決されないのだが、
元データがデジタル化されている以上
どんな理由であれ
管理面での制限がはずれてしまえば
システム間での流用や共用は
技術的には簡単だ。

警官による警備が強化され、
すきあらば逮捕されるようになる。

有罪判決を受けることになれば、
刑期は通常より長くなる。

これらの情報は、さらに
別の数学破壊兵器へと引き渡される。

1つ目の数学破壊兵器で
不利な状況に追いやられた人々は、
別の数学破壊兵器でも
高リスクと評価され、
標的にされやすくなり、
就職の機会を奪われるようになる。

こうなると、
住宅ローンや自動車ローンなど、
あらゆる種類の保険で
金利が跳ね上がる。

すると、
クレジットの格付けは一層低下し、
モデリングによる
死のスパイラルから抜け出せなくなる。

つまり、数学破壊兵器の世界では、
人々は貧困であるがゆえに、
ますます危険で
お金のかかる生活に
追いやられていくようになる。

システムの「規模拡大」が
格差をさらに拡大する
「死のスパイラル」を生み出してしまう。

ビッグデータは過去を成文化する。
ビッグデータから未来は生まれない。
未来を創るには、
モラルのある想像力が必要であり、
そのような力をもつのは
人間だけだ。

私たちはアルゴリズムに、
より良い価値観を明確に組み込み、
私たちの倫理的な導きに従う
ビッグデータモデルを
作り上げなければならない。

それは、場合によっては
利益よりも公平性を優先させる、
ということでもある。

＊　データを使って
　　何をしようとしているのか？
＊　使おうとしているデータは
　　対象を正しく表現したものなのか？
＊　システムのアウトプットは
　　間違っていなかったのか？
＊　安易に他のシステムのデータを
　　使おうとはしていないか？

極めて初歩的な内容への
フィードバックでさえ
暴走を始めたシステムでは、
「効率・利益」という名のもとに
どれも機能しなくなっているようだ。

それを修正できるのは技術ではない。