ChatGPTの精度で始まってよかった【たまプラビジネス余談放談】20231116
ChatGPTの公開で始まった生成系AIのブームというか普及というか実用化というか、AIは人間生活を大きく変えていく予感があるが、一方で、そのリスクも指摘されている。
知性があるかのような流暢な
試用してみた人は共感すると思うが、そのChatGPTが吐き出す”もっともらしいデタラメ”の問題は周知のことになっている。ChatGPTは
「”Large Language Models”というアルゴリズムによって動いています。アルゴリズムに大量のテキストデータを学習させ、あたかも人が書いたような自然な文章を生成できる自然言語処理機能がChatGPTの仕組みです。」
と定義されている。その流暢な回答は知性があるようにみえるが、前述のように大量のテキストデータ学習により文章を生成している”だけ”なので、「中核となる価値判断能力の部分は”空洞”」と指摘される。
初期の”とんでも”回答
実際いろいろ聞いてみると、初期には埼玉など内陸の県で牡蠣が採れると回答したりもしていたし、検索するわけではないので、エゴサーチで自分の名前で人物像を聞いてみると、東大教授だとか大企業の創始者だとか、とんでもない結果がでたりする。このあたりが最初の段階で明白になり、そのことがAIに盲目的に頼らない常識を形成したと思う。もしこの一連のChatGPTの初期ブームがなければ、一部の弁護士が生成結果をそのまま法廷文書として出してしまったような、AIだから大丈夫と誤認して公式な文書にそのまま採用してしまう流れになってしまったかもしれない。そうならなくて正解だった。でかしたぞChatGPT。ある意味お手柄。
間違い例
例えば、「ゲットバックでのリードギターは？」と尋ねると、
「ゲットバック」は、ビートルズ（The Beatles）の曲で、ジョン・レノン（John Lennon）がリードボーカルとリズムギターを担当し、ジョージ・ハリスン（George Harrison）がリードギターを演奏しています。この曲は1969年にリリースされ、アルバム「Let It Be」に収録されています。ジョージ・ハリスンのギター演奏は、ビートルズの曲において独特の個性を持っており、特にソロのフレーズが目立つ楽曲でもあります。」
と回答があるが、公開されているルーフトップコンサートでの映像では明確にジョンがリードギターを弾き、ジョージはリズムギターを弾いているようにみえる。ChatGPTはビートルズの一般的な担当を述べているに過ぎない。こういう間違い情報がシリアスな場面で提供され、AIだからと盲目的に信じられていったらどうなるのか。
法務や政治、経営、軍事さまざまな重要場面でAIが活用されていくことが予測されるが、その結果が手放しで信用されてしまうのが当たり前になってしまっていたらと思うと背筋も凍る。だからさらなるAIの開発発展に期待もしている。
