半蔵門御散歩雑談/ODR Pickups

株式会社ODR Room Network

このブログは、株式会社ODR Room Networkのお客様へのWeekly reportに掲載されている内容をアーカイブしたものです。但し、一部の記事を除きます。ODRについての状況、国際会議の参加報告、ビジネスよもやま話、たまにロードレーサーの話題など、半蔵門付近を歩きながら雑談するようにリラックスしたお話中心。

ITエンジニアが法律に影響している

ITエンジニアが法律に影響している【半蔵門ビジネス雑談】20190729

 

ODRの話題の一つが、

AIが紛争解決に関わった場合、その判断は、AI機能を開発したエンジニアの判断なのか、その開発に関わった法律家の判断なのか

ということ。

 

通常は、SNSやECサイトなどで、法律に関することなら、利用規約や各種取引の規定に記載する。そしてプログラムはその規定を反映して組み立てられる。しかし、プログラムは規定と同期しないで組み立てられる可能性もある。

例えば、AIのプログラムのアルゴリズムがSNSにも影響を及ぼす可能性がある。顔認証で自動的に何かの広告を出す場合にも、利用者の属性判断になんらかの恣意性が組み込まれれば影響する。法的な判断や紛争解決ではさらに重大な影響を及ぼす可能性もある。

www.nikkei.com

AIが紛争解決に法的判断を出すようになる日も近いと言われている。その判断のロジックを表すプログラム、アルゴリズムの内容を、ITの専門家ではない法律家によって正確に監修されているかどうか?法律家自身もそう言い切れないのではないかということ。

さらに言えば、法律家が判断できない専門的なプログラムによる法律的な見解を出しているのは、そのプログラムを書いているエンジニアの判断になっている場合もありうるということ。

 

ディープラーニングによって膨大な情報から学んだ結果から結論を導き出す手法が期待されているが、そのラーニング自体のプログラム、結果の出し方にも未だ試行錯誤の調整が必要な状態だった場合、その調整をするのはエンジニアであるから、ディープラーニングの結果によって出力される法的判断は、法律家が検証できていない可能性もある。法律家が監修していても、100%監修できていない可能性もある。

そうなると、ITエンジニアのプログラミングが法的判断に直接影響し、それが判例になれば、エンジニアの書いたコードが法律に影響してくることになる。

f:id:emandai34:20181129223239j:plain

そういう高度な話でなくても、法律判断に関わるような、例えば、支払いに関するプログラムが、金融的な法律がない分野のことを先行して処理するようになれば、それはプログラムが法律に影響してくることになる。

 

ITエンジニアの記述するコードが法律に影響する時代となっているというのはそういうことである。