【本】AIには何ができないか(メレディス・ブルサード著,北村京子訳)
【概要】
日経の書評を見て購入・積読していたものを読了。
著者は、ベル研やMITメディアラボでソフトウェア開発経験を持つデータジャーナリスト。
本著は、テック文化の明るい未来に疑問を持ち始めた著者が、テクノロジーにできることの限界を理解するためのガイドブックとして示し、“技術至上主義”に警鐘を鳴らす。コンピューターを正しく知ることではじめてテクノロジーに高い品質を求めることができる、という基本的だが実は意識が薄くなってることに気づかせる啓蒙の一冊。
【ポイント】
- コンピューターでできることは突き詰めれば数学であり、よって根本的に限界があるが、技術至上主義の信奉者は、以下の信仰を有す。すなわち、アイン・ランド的な能力主義社会、テクノ自由至上主義的な政治的価値観、ネット上のハラスメントも問題視しない言論の自由の過度な称賛、コンピューターは人間より客観的で偏見がないとする考え方、コンピューターの浸透で社会問題はなくなりユートピアがつくられるという揺るぎない信仰。
- 当然だが、あらゆるデータと、それを集めるシステムは人によって作られる。“データは社会的に構築”される。人はデータがあるのだからそれは間違いない、と思い込む傾向があるが、その考えは捨て去るべき。そしてすべてのデータは“汚れている”ので、関数を円滑に実行するため、ときとして不誠実なノイズ除去が行われる。
- 汎用型AI(ハリウッド版AI)は1990年代に見切りが付けられているもの、特化型AIは現実に存在するもの。特化型AIは強化された統計学である。
- 報道に技術を用いることを提案する人たちの多くは“データジャーナリスト”と自称する。消費者物価データの可視化、患者に性的虐待を行った医師のデータの収集・分析、警察車両のスピード違反分析など。アルゴリズム(あるいは計算プロセス)の適切さを報道する分野もある(例:裁判の量刑判断に使用されるアルゴリズムにおける、アフリカ系アメリカ人に不利になるバイアスの報道等)。自由報道の役割はこれまで政策決定者に説明責任を果たさせたが、アルゴリズムの説明責任報道はこの責任を計算の世界に適用するもの。デジタルジャーナリズムは、プロバブリカとガーディアン紙が先頭を走ってきた。
- 世に広まっているデジタル技術に関わる発想は、大勢の作り手や思想家により形成されたのではなく、1950年代以降、ごく少数のエリート集団が偏った想像、誤解釈をしながら形成したもの。そしてその集団は、“男性からなる小さなエリート集団で、自らの数学的能力を過大評価する傾向があり、何世紀にもわたり女性や有色人種よりも機械を優先し続けてきており、SFを現実化しようと思いがちで、社会的慣習にあまり関心を払わず、・・・極右リバタリアン無政府資本主義のイデオロギー的なレトリックを好んで口にする”。
- ポピュラーなものと、良いものは必ずしも一致しないが(ポピュラーだがよくないものの例:ラーメン・バーガー、人種差別)、機械にできるのはアルゴリズムで指定される基準に用いてポピュラーなものを識別するだけ。ポピュラーなものについてそのクオリティを自律的に判別することはできない。ポピュラーがよいという考え方はネット検索のDNAそのものに深く染みついているもの。そして、ネットの基本的価値観は、物事はランク付けできるという概念(現代社会は“測ること”に憑りつかれている)。
- 技術崇拝をやめ、アルゴリズムを精査し、不平等に目を光らせ、システムや産業内のバイアスを減らす必要がある。そのための新しい動きがでてきている(NY大学の「AIナウ研究所」、シンクタンク「データ&ソサイエティ」、機械学習の公正と透明性に関わる複数のコミュニティ、「人工知能と倫理とガバナンスのための基金」等)。
- その他備忘:
【雑感】
- 邦題サブタイトル「データジャーナリストが現場で考える」とあるようにエッセイ調でまとめられている(学術成果等を踏まえてAIにできないことを体系的、分析的に整理したものではない)。コンピューターやプログラミングの基本原理の説明から入る本書は、AIは突然現れた魔法の杖ではなく、過去からつながる技術の延長にあることや、人為によるものである限り、意図するせざるに関わらず作り手のバイアスを内包していることを再認識させる。翻訳も明快で読みやすいが、中身に照らしてちょっと長い印象。
- 科学技術による世界は少数の数学エリートにより構想されてきたという指摘は新鮮かつ納得感あり。その前提を無反省に受け入れるのではなく、技術と人間・社会の在り方を問い直す意義は当然あるし、まだ間に合う。
- データジャーナリズムにおけるアルゴリズム説明責任報道はとても大切な社会的使命。日本でどれだけ進んでいるのだろうか。専門職育成は喫緊の課題か。
- 未知のものには過剰な期待と不安が生じるのは常。機械でなにができるか、できないかの理解は大切。こうした書籍も有効だし、少なくとも機械学習の基本的なアルゴリズムの“考え方”(数式を組めなくてもOK)を学べば、相当クリアになるはず。
【もう1冊】
- エンジニアなら知っておきたいAIのキホン(梅田弘之,2019,インプレス)⇨AIの基礎、機械学習アルゴリズム、ビジネス活用の3部構成。アルゴリズムの説明に紙面が割かれ、数式なしだが概念説明がわかりやすい。類書も多いが、機械学習の仕組みの基本を理解するところが出発点。
- AI白書2020(IPA,2020,ASCII)⇨トピック、技術、利用、制度政策の動向を包括的に整理。白書はリカレント学習に適した教材と思う。本書はほかの白書に比べて相当力がはいっている。
- 人工知能が変える仕事の未来[新版](野村直之,2020,日経BP)⇨長年日本のAI研究開発に携わってきた著者がAIにできること、できないことや将来について平易に解説。ムーアの法則はソフトウェアでは成立が難しく、シンギュラリティには懐疑的、とする。
- シンギュラリティは近い(レイ・カーツワイル,2016,NHK出版)⇨シンギュラリティ提唱から15年。汎用AIはそう容易ではないというのがコンセンサスのようだが、インパクトは依然大きい。