AIって“嘘つき”？

皆さんこんにちは。先日、九州のある会場を訪問した時のことです。お話の中で、「AIって、堂々と嘘をつきますよね」という流れになりました。

実際に話を聞いてみると、その施設の若手プランナーの方が、個人無料アカウントでChatGPTを利用しており、カップルに向けた案内文の下書きをChatGPTにお願いしたところ、存在しないプラン名や間違った収容人数を、実にもっともらしく書いてきたそうです。

これは『ハルシネーション』と呼ばれる現象で、本来であれば知らないことを、AIがそれらしい言葉で埋めてしまう“癖”のことを言います。悪気はないとはいえ、カップルをはじめとした大切な顧客に渡す文章となれば、正直困ってしまいますよね。今号では、無料版のChatGPT（もちろんその他の生成AIも！）で、今から、そして誰でも使える、“嘘”を防ぐうえで重要となる、プロンプト作成のポイントなど、3つ紹介したいと思います。

1つ目は、「分からないことは、分からないと答えてください」と、最初に一言添えること。AIは空欄を嫌って、つい創作などで埋めようとします。「推測で書いた部分には印を付けて」と合わせて頼むと、逃げ道ができて、知ったかぶりをぐっと減らせます。

2つ目は、材料をこちらから渡すこと。「うちの会場の宴会プランを説明して」と丸ごと任せるのではなく、プラン表や過去の案内文を貼り付けて、「この文章に書いてある情報だけを使って、案内文を作ってください」とお願いします。AIの記憶に頼らせず、手元の正しい資料の範囲で働いてもらう。これが1 番効きます。

3つ目のポイントは、固有名詞と数字、そして日付だけは、最後に自分の目で確かめること。文章の言い回しや作文に関してはAIの得意分野ですが、プラン名や金額、収容人数は1 番間違えやすいところです。「この文章の中で、事実として確認が必要な箇所を一覧にして」と聞くと、ファクトチェックすべき項目をAI自身が教えてくれるので、確認が必要とはいえそこに要する時間も短縮に繋げられます。

文章化におけるAIのスキルはとても高いからこそ、その能力を活用しない手はありません。一方、プロンプト次第で生成される文章、回答は変わり、結果として“嘘”になってしまうこともゼロではない。AI＝よき相棒と捉え、どう動いてもらうかをきちんとこちらから指示・指導していく。そうすることで、より有能なパートナーとして、手腕を発揮してくれるようになります。ぜひ、試してみて下さい。

（詳細はブライダル産業新聞紙面にて、9月11日号）