生成AIのミス

こんにちは講師のたかえもんです。

第２回定期テストが終わったと思ったら、あっという間に第３回定期テストが目前に迫ってきました。

３年生は入試に関係する最後の定期テストで、難しい内容のものが多いです。ですが学校の先生も鬼ではないので、しっかりと頑張りをアピールできると甘めに成績を付けてくれることも多いです。「自分は○○高校に行きたいので頑張っています！」と、学校の先生に伝わることはとても大きいです。試験勉強をただ頑張るだけではなくて、アピールにも力を入れましょう。

さてそれはそれとして、今回はネット検索をする時にAIに嘘があったという話をします。

今度の中３の社会科のテストでは、テスト範囲に裁判員制度というものが含まれます。裁判員制度を簡単に説明すると、「刑事事件の裁判では、１回目の裁判だけはくじで選ばれた国民が判決を下す制度」というものです。

この裁判員制度についてお恥ずかしながら、記憶が曖昧になっている部分がありました。それは、「裁判員制度は１回目の裁判だけに適用される」という部分です。↓のように、裁判員制度は何回目の裁判まで適用されているのかが怪しくなってしまいました。

「たしか、裁判員制度は第一審だけで第二審以降は適応されないはず…あれ、本当に第一審だけだっけ？第二審でも裁判員制度が採用されてたりしない？考え出すとどんどん怪しくなってくる…」

とまあ、自分の記憶に自信が持てなくなってしまいました。そこで頼ったのがインターネットの検索機能です。すぐに検索して、すぐに解決です。ところがそれが落とし穴でした。Chromeを使って検索しましたが、その検索結果にぎょっとする文言があったのです。

Chromeという検索エンジンで検索すると、最初にAIによる概要(まとめ)が表示されます。

裁判員制度について検索すると、やはりAIによる概要(まとめ)が表示されます。しかし、そのAIによる概要に「裁判員制度は地方裁判所もしくは高等裁判所で行われる」といった文言があったのです。

あれっ、となりました。裁判員制度について間違えて記憶していたのかとびっくりです。慌てて法務省や最高裁判所の公式ホームページをクリックします。公式ではどのように説明されているのか、確認は大切です。

そこで明らかになったのは、AIのミスです。

公式ホームページを見ると、「裁判員制度は、高等裁判所管轄の地方裁判所で実施される」という内容が書かれていました。裁判員制度は地方裁判所で実施されますが、高等裁判所(第二審)では実施されません。

おそらくAIは高等裁判所と地方裁判所という言葉が並んでいたため、管轄のという言葉を省いてしまったのでしょう。言ってしまえば単純なミスです。ですが、間違った情報が堂々と検索結果の最初に来るのはよろしくありません。デマの拡散になるからです。

生成AIはものすごく発達しています。ですが、完全に正しいわけではなく、まだまだミスをしてしまうことはあるようです。

ただ今回のことでぞっとしたのが、AIによる概要はまだまだ怪しい場合があるのに、そうした間違った情報が多くの人が見るところに表示されていることです。たちが悪いことに、AIによる概要は正しいことも多いです。いつも間違えているなら、だまされることはありません。しかし、ときおり間違っているのであれば、だまされやすくなります。

もちろん、AIによる概要を頭から信用するのではなく、裏どりをすることは大切です。ですが、裏どりするのは時間や労力がかかります。分かっていても、ついついそれに頼ってしまいがちです。

検索エンジンのAIによるまとめは便利ですが、まだ全面的には信頼しない方が良いようです。知っている内容の確認に使うのが無難で、AIによるまとめの情報源となるサイトをしっかりチェックしましょう。そうしないと、実は間違っている情報を間違っていると知らずに信じてしまうことになります。きちんとした知識や確認方法がないと、現状では生成AIを使いこなすのは難しいと思われます。