カメ散歩の日記

読書のメモや雑感を書いてます

人工知能のアーキテクトたち AIを築き上げた人々が語るその真実 のメモ

書籍名

人工知能のアーキテクトたち AIを築き上げた人々が語るその真実 マーティン・フォード 水原文 訳 松尾豊 監訳 O'REILLY 2020/8/21

気になった部分

  • 共通して聞いた質問「AIやロボット工学が労働市場や経済どのような影響を与える可能性があるのか」「人間レベルのAIへの道のりについて」「AIの発展がによってもたらされる様々なリスクについて(近い将来/遠い将来)」
    • 上記質問の回答を見ることで、様々な視点や考え方が存在するということが把握できた。それを通して自分自身が何を望んでいるのか、どのような考え方に賛成/不同意なのかも見えてきた。
  • AI業界では多様な人を招き入れようとしている。しかしAI/ML業界全体での女性の割合は12%程度。
    • このままではまた今までの歴史と同様、AIにおいても男軸で進んでしまうかもしれない。
  • 今のAIは、特定の部分では素晴らしい成果を上げており役に立っているが、人間のように物事や概念や世界を理解しているわけではない。
    • まさに機械。
  • 今のAIの仕組みは人間の脳の処理と同じというわけではない。鳥の飛ぶ仕組みと飛行機やヘリコプターが飛ぶ仕組みは違う。人間の脳の仕組みはまだよくわかっていない。
    • 人工知能」というから過度の期待や誤った推測が出てくる。新しいテクノロジーによって、従来人間しかできないとされていた部分(の一部)が、機械(コンピューター)によって代替可能ということが、人間の代替とされてしまう。
    • 「人間の代替」ではなく「労働の代替」ではあるとおもう。働かない/働けない人間はどうなるのか?やっぱりベーシックインカムしかないのか?生きがいは?
    • 「人々に学びを促す条件付きベーシックインカム」←これがいいかも。行政的な手続きやコスト増加は避けられないと思うが。
  • AIの兵器への応用
    • 書籍「無人の兵団 AI、ロボット、自立型兵器と未来の戦争」の内容を思い出す。
    • 兵器の目的「守りたい/攻撃したい」 何を?「人?/モノ?/エゴやプライド?」
    • 機械が機械を壊す 機械が人を壊す 人が機械を壊す 人が人を壊す
  • 人・機械によらず「正しいことをする」のであれば知能があるとみなせる
    • まあ、妥当
  • 汎用人工知能にかけている点は、長い時間に渡ってうまくやっていく能力。AIにとって囲碁や将棋で何百手先を読むことは、ほんの数ミリ秒先のこと。因果関係も苦手。
    • 人間相手に、計画立てて、段取りして、説得して・・・的なことはたしかに難しそう。
    • AI同士ならば楽にできちゃう?でも自然条件とか物理的な成約もあるのでそんな簡単ではないな。
  • 生産手段(ロボットやAI)を富裕層が専有し、その召使いが存在し、それ以外の人々は何もしていないという状況は最悪の状態であり、避けなければならない。
  • AIの定義の中に「矯正可能(誤りを修正できる・OFFにできる)」という概念を組み込むべき
    • 人間のコントロール下に必ずおいて使うということ。これならば安全だと思う。この考え方の延長線で進めば大混乱はなさそう。だけど、ディストピアにならない可能性はなくならない:持つものと持たざるものの格差は広がりうる。でもそれは今でも一緒か。程度の問題。
  • 人類に対する脅威の比較・深刻度: 経済格差 分断 気候変動 核爆弾を使った戦争・テロ AIの発達→暴走
    • 並べてみるとAIの深刻度、優先度は低いかも、と思ってしまう。
    • ただ、人間は「進歩の速度が線形」だと思いがち。テクノロジーの最近の加速度的な進化をうまく考慮できないらしいので、私(たち)の直感や感覚は当てにならない?
    • 人間の判断で、意図的に社会への適応する速度を遅らせることはできるだろう。技術は勝手に進歩してしまうかもしれないけど。
    • 誰が判断する?政治家?官僚?科学者?国民?(世論や選挙で?→結局政治家?)民主主義国家でなければ独裁者?
    • 誰かが無許可で勝手にやってしまう → 現在のテロと同じ。
  • 警察活動について AI搭載の警察ロボットに対して、発砲を受けた後にだけ発砲が許されるということにすれば、現在の人間の警官による人種差別的な行動によりも優れている。
    • 「やられる前にやる」という理論は成立しなくなるな。
    • ただ問題は、果たしてこのロボット警察が適切に私を守ってくれるのだろうか?こっちが心配。
  • 長い時間をかけて多くの苦労や発見・発明の積み上げでできたものの「価格」は安くなる 例えばブルーレイの再生装置の価格と音楽ライブ演奏を比較 ライブ演奏に多額のお金を払う
    • 人間中心 生 直接 親しい存在 感じる 共感できる
    • 上記要素をVRとかで再現したら?親しい存在として感じられるAIができたら?
    • 汎用人工知能の話ではないな。人間を騙す(錯覚させる)技術進歩の話だ。
  • 自動化されそうな仕事(活動)と賃金構造やスキル要件といった伝統的な概念はうまく整合しないことが多い。高い学歴(やスキル)を求められる仕事が自動化されにくいというわけではない。受給や単価や自動化に費やすコスト・手間にも影響を受ける。→ 検討することで自動化のペースや程度がわかってくる。
  • 「基本的な事実として、テクノロジーによって職はなくなるが、仕事はなくならない」「常になされるべき仕事は存在するが、それが労働市場で尊重されるとは限らない」
    • 忘れがちだが、感覚的にはしっくり来る。
  • 汎用AIを女性にする → AIを非暴力的にする
    • 確かに「男性」というだけで暴力性は劇的に高まる(5倍らしい)。まるごと女性ではないにしても、暴力性という点だけは女性の因子・要素を含ませるのは賛成。

雑感

AIの技術的な詳細について新しい情報を得るというよりも、全体としてのAIの「現在地」「今後の方向性(の選択肢)」「(技術的ではなく)社会制度やコンセンサスにおける課題」が把握できる。 数年したら消費期限が切れてしまうと思われるので、今読んでおいたほうが良いと思う本。 AIに限らないが、新しく出てきた技術については、このようにスーパースターたちのにインタビューして一つの書籍(WEBでもいいが)としてまとめてもらえるとすごく助かる。 出版してくれて、そして翻訳してくれてありがとう!

読むことになったきっかけ

書店で「ビジネス関連」の棚に、この分厚い表紙にアルファベットだらけの本があり、なんとなく手に取る。 ビジネス関連というよりはIT関係の書籍の多いO’REILLYの本だししかもAIのということでパラパラとめくってみる。 原書は2018年ということで、日進月歩のAI関連の書籍としては古いのかも?と思ったが監訳者の松尾豊さんが帯で「本書を一読いただくだけで、現時点での世界のAI技術に関しての現状認識や今後の方向、課題、そして、社会全体の方向性や課題などについて、かなり正確に把握することができる。」といっていたため購入。