AI法廷の弁護士 シンギュラリティには気がつかないかもしれない【読書／映画感想】20240508
表紙にはモニタに裁判官が写っていたのでそんな感じかと思っていたら小説内の描写では四角い箱のスタンドアロンサーバーだった。それがAI裁判官だ。開廷は裁判長の発声ではなく起動音が鳴り響く。
小説の舞台は法廷で、裁判の話である。法廷闘争なので、”勝つためには”という要素が詰まっている。
”「争いの本質は戦術より戦略、矛を交える前から勝敗は決まっている」歴史上の戦争を語るとき聞く言葉だ”
という引用は心に染み入る。歴史に語り継がれるのは戦術だ。小説内では、この戦略も戦術もAI裁判官への傾向と対策になっている。
この本の本質的なテーマは、「シンギュラリティ」だと認識している。
「シンギュラリティ」とは、”人間と同等のAIが誕生する時点を表す特異点”のことだ。人間と同等になるということで、人間を超越するということではない。しかし、もし同等になった時、想像されるのは、あやふやな感情に左右されない、正確、疲れない、など、人間にはない特性によって人間を超えてしまうことで、そのまま先へ進めば、人間がある意味AIに支配される世界が到来するかもしれないということだろう。
SF映画で描かれるそんな社会は、AI制御されたコンピュータが都合の悪い人間を人知れず排除するような恐ろしさが強調されているが、実際に起こる（かもしれない、可能性のある）社会は、
AIとのディベートに負けて人間的常識が廃れ、AI的常識がまかり通るようになる社会。このブログ記事にある人間の論理を諦めればAIの論理に凌駕されてしまう。それは支配とは気がつかないが人間であれば当然持っているはずの”何か”が継承されなくなっていく世界だ。
www.odr-room.netあるいは、
そういう図式が法の支配の世界で起こるかもしれない。判例法において、積み重なった判例から次の判例が生まれていくとき、もしも土台となるコモンセンスが変化していくときでも、それをAIにうまく反映できなければ、AI判決は実情を反映しない世界となる。AIの法支配が人間社会の実態と違う世界となる。
もしかするとどちらの場合も人間が気がつかなければ、AI支配に気がつかなければ、AIも自分が支配していることには気がつかない。それが一番怖いシンギュラリティである。
