モグラ談

40代のリベラルアーツ

【本】AIには何ができないか(メレディス・ブルサード著,北村京子訳)

書籍情報

【概要】

日経の書評を見て購入・積読していたものを読了。

著者は、ベル研やMITメディアラボでソフトウェア開発経験を持つデータジャーナリスト。

本著は、テック文化の明るい未来に疑問を持ち始めた著者が、テクノロジーにできることの限界を理解するためのガイドブックとして示し、“技術至上主義”に警鐘を鳴らす。コンピューターを正しく知ることではじめてテクノロジーに高い品質を求めることができる、という基本的だが実は意識が薄くなってることに気づかせる啓蒙の一冊。

 

【ポイント】

  • コンピューターでできることは突き詰めれば数学であり、よって根本的に限界があるが、技術至上主義の信奉者は、以下の信仰を有す。すなわち、アイン・ランド的な能力主義社会、テクノ自由至上主義的な政治的価値観、ネット上のハラスメントも問題視しない言論の自由の過度な称賛、コンピューターは人間より客観的で偏見がないとする考え方、コンピューターの浸透で社会問題はなくなりユートピアがつくられるという揺るぎない信仰。
  • 当然だが、あらゆるデータと、それを集めるシステムは人によって作られる。“データは社会的に構築”される。人はデータがあるのだからそれは間違いない、と思い込む傾向があるが、その考えは捨て去るべき。そしてすべてのデータは“汚れている”ので、関数を円滑に実行するため、ときとして不誠実なノイズ除去が行われる。
  • 汎用型AI(ハリウッド版AI)は1990年代に見切りが付けられているもの、特化型AIは現実に存在するもの。特化型AIは強化された統計学である。
  • 報道に技術を用いることを提案する人たちの多くは“データジャーナリスト”と自称する。消費者物価データの可視化、患者に性的虐待を行った医師のデータの収集・分析、警察車両のスピード違反分析など。アルゴリズム(あるいは計算プロセス)の適切さを報道する分野もある(例:裁判の量刑判断に使用されるアルゴリズムにおける、アフリカ系アメリカ人に不利になるバイアスの報道等)。自由報道の役割はこれまで政策決定者に説明責任を果たさせたが、アルゴリズムの説明責任報道はこの責任を計算の世界に適用するもの。デジタルジャーナリズムは、プロバブリカとガーディアン紙が先頭を走ってきた。
  • 世に広まっているデジタル技術に関わる発想は、大勢の作り手や思想家により形成されたのではなく、1950年代以降、ごく少数のエリート集団が偏った想像、誤解釈をしながら形成したもの。そしてその集団は、“男性からなる小さなエリート集団で、自らの数学的能力を過大評価する傾向があり、何世紀にもわたり女性や有色人種よりも機械を優先し続けてきており、SFを現実化しようと思いがちで、社会的慣習にあまり関心を払わず、・・・極右リバタリアン無政府資本主義のイデオロギー的なレトリックを好んで口にする”。
  • ポピュラーなものと、良いものは必ずしも一致しないが(ポピュラーだがよくないものの例:ラーメン・バーガー、人種差別)、機械にできるのはアルゴリズムで指定される基準に用いてポピュラーなものを識別するだけ。ポピュラーなものについてそのクオリティを自律的に判別することはできない。ポピュラーがよいという考え方はネット検索のDNAそのものに深く染みついているもの。そして、ネットの基本的価値観は、物事はランク付けできるという概念(現代社会は“測ること”に憑りつかれている)。
  • 技術崇拝をやめ、アルゴリズムを精査し、不平等に目を光らせ、システムや産業内のバイアスを減らす必要がある。そのための新しい動きがでてきている(NY大学の「AIナウ研究所」、シンクタンク「データ&ソサイエティ」、機械学習の公正と透明性に関わる複数のコミュニティ、「人工知能と倫理とガバナンスのための基金」等)。
  • その他備忘:
    • コンピューターサイエンス業界ではスターウォーズが物語テキストの元祖、モンティ・パイソンがコメディテキストの元祖。プログラミング言語pythonは、モンティ・パイソンにちなんだもの。
    • トム・M・ミッチェル カーネギーメロン大教授による機械学習の定義:“特定のタスクT、性能尺度P、ある種の経験Eについて機械が学習すると呼ぶのは、そのシステムが、経験Eののちに、タスクTにおいてパフォーマンスPを確実に向上させる場合。T,P,Eをどのように規定するかに応じて、この学習タスクは、データマイニング、自律的発見、データベース更新、例示プログラミングなどの名称で呼ばれる“

【雑感】

  • 邦題サブタイトル「データジャーナリストが現場で考える」とあるようにエッセイ調でまとめられている(学術成果等を踏まえてAIにできないことを体系的、分析的に整理したものではない)。コンピューターやプログラミングの基本原理の説明から入る本書は、AIは突然現れた魔法の杖ではなく、過去からつながる技術の延長にあることや、人為によるものである限り、意図するせざるに関わらず作り手のバイアスを内包していることを再認識させる。翻訳も明快で読みやすいが、中身に照らしてちょっと長い印象。
  • 科学技術による世界は少数の数学エリートにより構想されてきたという指摘は新鮮かつ納得感あり。その前提を無反省に受け入れるのではなく、技術と人間・社会の在り方を問い直す意義は当然あるし、まだ間に合う。
  • データジャーナリズムにおけるアルゴリズム説明責任報道はとても大切な社会的使命。日本でどれだけ進んでいるのだろうか。専門職育成は喫緊の課題か。
  • 未知のものには過剰な期待と不安が生じるのは常。機械でなにができるか、できないかの理解は大切。こうした書籍も有効だし、少なくとも機械学習の基本的なアルゴリズムの“考え方”(数式を組めなくてもOK)を学べば、相当クリアになるはず。

【もう1冊】