$*nyme

blog of a man, by a man, for a better future

機械カニバリズム (読書途中)

機械カニバリズム 人間なきあとの人類学へ (講談社選書メチエ)

機械カニバリズム 人間なきあとの人類学へ (講談社選書メチエ)

  • 作者:久保 明教
  • 出版社/メーカー: 講談社
  • 発売日: 2018/09/12
  • メディア: 単行本(ソフトカバー)
 

PSYCHO-PASSシリーズ(2以降)の脚本担当 深見真氏が絶賛していた「機械カニバリズム」が気になって読んでみた。

 

 

将来シンギュラリティが訪れるに違いないという現在の常識、を形作っているものは何か、そして、人とは何でありうるのか?を問い続ける作者の視点がユニークで面白い。

 

問いかけの一つに、人はなぜ「コンピュータの計算能力の向上を当たり前のものとして受け入れ、また、期待しているのか?」という現代人の心理面に関する問いは、眼から鱗だった。 「ムーアの法則」という名の呪縛が現れて以来、当たり前になり過ぎて考えたことなかったな、、、。

 

「技術決定論」と「社会的構成論」 というキーワードが出てきた。プロダクトアウトかマーケットインか、という意味に近い印象を受けた。

現代は、「アクターネットワーク論」というのが提唱されているらしい。(人間と非人間の組み合わせ(相互干渉)により、今まで見たことのない可能性が現界し得る(世界が広がる)、というスタンス。極めて現実的に思える。

 

・・・

 

この本では、『技術の進化・技術による進化』と、『技術の成果物そのもの』とを「技術」って言葉で一括りにしてるように見える。コントロールできる・できないの観点からすると、きっちり分けるべきなのではと思わないでもない…。

 

・・・

 

現代人類学では、カニバリズムが「他者の視点を取り込み、他者の視点を持って自己を捉えるための営為」と解釈されており、また近代社会においては、人に部分的に類似する機械を介して同様の営為がなされている、 という考え方が提示されており、なるほど、そういうふうに解釈できるのかと目からうろこだった。

ロボットやAIの研究が進むに従い、「人とは何であり、何でないか」が明らかになってきている、という現代の流れそのもの。

※ 本書には出てこないけど、味覚、味覚に関する脳科学の研究とかは、人の中に人を見出すって感じで、ちょっと違う流れの中にあるのかなと思った。

 

・・・

 

将棋の電王戦をもとに、AIの思考と人の既存の思考とが混ざり合い進化する過程の議論がめちゃくちゃ面白い。上述のアクターネットワーク論の実例。

人は時系列の流れを読んで判断できるので、直感とも言える能力で計算リソースが有限である問題を克服できるとともに、無意識に流れを前提として物事を見てしまうので思考の幅が制限される。

電王戦によって、AI と人との思考の違いが明らかになるにつれ、

『人が無意識に前提としているもの』が明らかになった

という話が出ていた。まさしくタイトル通り「カニバリズム」であり、AIが進化すればするほど、それに適応した「人」もまた進化する余地が感じられてるワクワクする。

 

今更だけど、bonanzaが、局面の形成判断を、任意の3駒の位置関係を全て検討すること(人には不可能かつ理解不能な方法)で行っていたと知った。機械学習、面白すぎる。

歴史的に見て、羽生善治が、全探索による指し手の追究をAIに先駆けて行なっており、それが高じてAIの開発を進めるためのデータが出揃い、データをもとに進化したAIの指し手で、今また人の差し手が変わりつつある流れ、綺麗に螺旋を描いてて綺麗(語彙力

 

・・・

 

知のオープン化が進められた結果、学習の高速道路ができあがり、誰もが合理的に相当レベルまで強くなれる世界が生まれると、高速道路の先で大渋滞がおきる、という話が載っていた。

ロードバイクの世界でも、トレーニング量とその効果を数値で把握できるようになって、トレーニング機材も手軽に買えるようになったことで、アマチュアが総じて一定レベル以上になっている、という話を聞くので、まさに将棋に限らない話だなと思った。

 

渋滞の中で頭1つ出る要因として「美意識」が挙げられているのは感慨深い。羽生善治の強さは、若い頃に非合理的な人の中で揉まれ、その中で研ぎ澄まされた美意識(直感)であるという話。 最後に人に残るのは、やはりそこか、という想いと、本当にそれか?という疑念が渦巻いて複雑な気分。

そして、事態がややこしいことに、現在は、AIの判断結果によって、情報の評価軸(人の美意識)にまでその影響が及び始めている。

人にさえ答えのわからない(答えが出ない)問題であっても、AIであれば、何かしらの計算ができてしまう。人には理解しがたい原理でもって弾き出された答えは、人の情報の評価軸を刷新させる契機となる。

機械は知性において人を超えたのか/越えるのか、という問いに対しては、常に不完全な回答しか導き出せない。勝敗という結果は出せても、超えたかどうかを判断する基準が定まらないので答えは出ない。

 

・・・

 

人とは異なる方法で世界を把握する機械とどうやって折り合いをつけるか、機械との関係を通じて人はどう変化していくのか、という問いが浮かび上がる。

電王戦が、AIと人との相互作用による双方の変化の過程を示す縮図や、人とAIの知性の差異を明確にする手段になっているなんて考えたことなかった。 つまるところ、電王戦というカニバリズムにより、人は新たな形勢を得たというところに落ち着くのだろうけど、それにしても興味深い。

時間をおいて改めて評価しなおすと当時と違う景色が見えてくるの、まるでワインの熟成が進むようである。

1つの事象の中を覗き込むことで、その中に人生を見いだせるようになってきたの、単に歳をとったのか、なんなのかよくわからないけど、人生面白くなってきてるなと感じる。閑話休題。

プロ棋士であっても、心理面の安全性が指し手に強い影響を与えるという話、またAI側は心理面の効果を無視した指し手を選んでくるという話、言われてみると当たり前のようにも感じるけど、今までの定石にあった前提を明らかにするとともに、それを崩しているわけで、なんだか感慨深い。

棋士の情動の微かな動きが勝敗に影響を与えるというと、アニメ『3月のライオン』で描かれていた戦いは、まさしくそんな感じで、あれ物凄く出来が良かったんだなと改めて思う。

人は、(現代のAIが抱えている)フレーム問題を回避するための手段として直感を用いるわけだけど、 掘り下げると、直感は、ソマティックマーカーによって形成されていると考えられる。経験則から来る二次の情動、極めて繊細で洗練された身体的情動が、人の思考を狭めるとともに、大きく伸長させる。

・・・

ざっくり現在の脳科学的知見をまとめると、(個人的解釈になるけど) 身体機能の強化(例えば、バイオリンの習熟や、筋トレ)は、ダイレクトに知性の強化、発達に繋がると、考えているのだけど、 また一歩その証左が集まった感じがする。

・・・

将棋界においてみられる、感情のない情報処理技術(AI)によって情動のあり方と知的判断が変容する様は、 SNSにおける炎上に見出すことができる。

SNSはその特性上、仲介者において情動に根ざした判断がなされることがほとんどないために、身体的情動が連鎖的に広範囲に伝達、共有される

電王戦ファイナルでは棋士は対 AI戦に特化した戦略を。AIの弱点が露呈するとともに、その戦い方は、棋士もAIも、およそ将棋を差しているとは言い難い状況に。 現時点でのAIの限界が露呈するとともに、そもそも電王戦は何の勝負をしていたのかという根本的疑問が湧いて、なんかモヤモヤする。

コンピュータは棋士よりも強いのか?を問う電王戦を通じて、将棋における「強さ」の観念自体が変容した。 現状のAIは、人とは考え方が異質で、適切に領域設定することで、人のような判断ができているように振る舞える、といっていいのかなぁ。(※限定的ではあるものの、それ自体の有益性は高い)

 

・・・

 

Googleの人がいつぞや発表していたように現状「頭の悪い AI」に止まっているのはたしかで、だとすると、汎用推論可能なAIへの進化の道すじはどこにあるんだろうという素朴な疑問。 今の AI技術の延長線上にはないように思えてしまうのが、なんかモヤモヤする点かなぁ。 ※本書の守備範囲外の話。

将棋における「強さ」の定義を考えると、コンピュータと人との対戦を通じて、その言葉の不確実性が明らかになる。

「強さ」を定義するなら、以下の2つの方法がある。

・「規約論的解決」(意図的に何か指標を決める。指標自体が突き詰めると、善悪、美醜など人の判断をよりどころにするため、時代、文化により揺れ幅があるという不確実性がある。)

・「実践論的解決」(強い人がもつ性質をもって強いとする。常に新たな指標が追加され、評価が流動するという不確実性がある)

将棋とは離れるけど、食べものの「おいしさ」の定義もSNSの普及で大きく影響を受けたものの1つかもしれないと思った。

個人的にはSNSというより、Webでよく目にする「コスパ」という名の呪詛による影響を受けた、と考える方がしっくりくる。 本質的な問題解決を棚上げして、個々人にとっては役に立たない指標をありがたがる文化は度し難い。閑話休題。