米CNETは先週、昨年11月から公開されてきた一連の金融知識の解説記事を、AIで生成していたことを明らかにしました。
それまでは、著者名が「CNET Money Staff」とされ、あたかも人間のライターが書いているように見えていたものの、他のメディアなどから批判が相次いだこともあり、CNET編集長のConnie Guglielmo氏は、記事をAIで生成する実験を行っていると述べ、その理由を説明する記事を公開しています。
CNETは、AIによって生成された記事はすべて人間のスタッフが「レビュー、事実確認、編集」していると主張しています。しかし米国のテクノロジー系メディアFuturismは、このCNETのAIで生成された記事のなかに、複数の誤った内容があるのを発見しました。FutirismはAIが書いた記事の例としてGuglielmo氏が紹介した「What Is Compound Interest? (複利ってなに？)」と題した記事のなかに、いくつかの誤りを発見したと報告しています。
たとえばこの記事の以前のバージョンでは「年複利で 3% の利息が発生する普通預金口座に1万ドルを預け入れた場合、最初の年の終わりには1万300ドルを獲得できます」と記されていました(正しくは、獲得できるのは300ドル)。また、ローン金利の支払いやCertificate of Deposit(譲渡性預金：CD)の解説などにも誤りが指摘されました。
これに対して、CNETはAIによる記事をすべて見直し、誤りがないかを確認する作業を行うことにしました。そして「誤りを発見した場合は、更新して訂正」すると述べています。CNETの編集長Connie Guglielmo氏は、AI生成に関しては、昨年11月から基本的な金融に関する記事を約75本出していたと報告しています。そして、今後数か月～数年のあいだ、AIがニュース記事や情報系サービスの記事作成に活用できるかを確認するための実験をしていくことにしたと述べています。
ただFuturismは、上記のような誤りが含まれる可能性を考えると、まだまだ「AIが生成する記事は、人間の編集者が徹底的に事実確認をする必要がある」と述べています。
他でも言われていることですが、ChatGPTに代表されるAIモデルは、まるで人が記したような自然な文章を書くのは得意ではあるものの、決して書いている内容に関する正しい知識を有しているわけではありません。そのため場合によっては、さも事実であるかのように不正確な情報を述べてしまうことがあります。Associated Pressなどの報道機関も一部の記事作成にAIを使用していますが、長いテキスト記事の短い要約を作成するなど、AIに任せる範囲を絞って使っています。そして、AIの誤りを発見して取り除く作業は、まだまだ人間にしかできなさそうです。
もちろん、AI開発者たちもその点については改善が必要だと考えており、たとえばChatGPTを開発するOpenAIは「精度と事実性の向上」をすべく更新を続けています。
