※Amazonのアソシエイトとして、Daily Guide Studioは適格販売により収入を得ています。本記事はアフィリエイト広告を利用しています。
去年の春、深夜に記事を書いていて、AIが挙げた一冊の本を引用しかけました。著者名も出版社も出版年も揃っていて、疑う隙がなかった。検索したら、そんな本はこの世になかったんです。
AIは便利ですが、平気で嘘をつきます。それも、本当のことみたいな顔で。私はその嘘を信じかけて、危うく仕事で恥をかきかけました。
この記事は、AIの答えを鵜呑みにして痛い目を見たくない人に向けています。私が実際にやらかした失敗と、そこから1年以上続けている確認の習慣を、具体的に書きます。読み終わると、どこを疑えばいいかが分かるようになると思います。
私が信じかけた、存在しない本
もう少し詳しく書きます。
ある分野の入門記事を書いていて、AIに「この分野の定番書を5冊教えて」と聞きました。返ってきたのは、それっぽい書名・実在の著者・出版社・出版年がきれいに並んだリスト。文章があまりに自然で、ひとつも疑いませんでした。
そのうちの1冊を「参考文献」として記事に貼ろうとして、念のため書名をそのままコピーして検索窓に入れました。ヒットゼロ。著者名で調べ直すと、その人は実在していて、別の本は何冊も出している。でも、AIが挙げたその一冊だけが、どこにも存在しなかった。
実在の著者の名前を借りて、AIがそれっぽいタイトルを「でっち上げて」いたんです。あのとき検索する一手間を惜しんでいたら、と思うと今でも背筋が寒くなります。
この種の、AIがもっともらしい嘘を作ることを「ハルシネーション」と呼びます。言葉を覚えるより、これが本当に起きると体で知っているほうが大事だと思います。
失敗はこれだけではなかった
正直に言うと、AIに振り回されたのはこれが最初ではありません。
別のときは、ある制度の「現在のルール」をAIに聞いて、そのまま下書きに入れました。あとで公式を見たら、ルールは半年前に更新されていて、AIの答えは古いまま。
また別のときは、ある統計の出典を聞いたら、実在する官庁の名前を堂々と出してきました。その官庁のサイトを端から探しても、そんな数字はどこにも公表されていなかった。
何度かやられて分かったのは、AIが間違えるパターンには癖がある、ということです。
特に危ないのは、固有名詞・数字・日付・出典・最新の制度。この5つが出てきたら、私はほぼ反射で身構えるようになりました。
私が今も続けているファクトチェック
ここからは、失敗のあとに染みついた確認の習慣です。難しいことは何もしていません。
数字・固有名詞・日付は必ず外で確認する
AIが出してきた数字や名前や年は、そのまま使いません。
検索して一次情報、つまり公式サイトや公的機関のページに自分で当たります。制度なら役所の公式ページ、企業の情報なら会社の公式サイト、というふうに、AIじゃない場所で裏を取る。
正直、最初は面倒でした。でも一回でっち上げの本に騙されかけると、この一手間が安心料に化けます。
「出典は?」と聞いて、その出典まで確認する
AIに「その情報の出典はどこ?」と聞き返すようにしています。
ただ、ここが落とし穴で、出典そのものをAIが作ることがある。さっきの官庁の件がまさにそれでした。
だから出典が出てきたら、その出典が本当に実在するか、その出典に本当にその内容が書いてあるかまで見ます。出典名が出ただけで安心してはいけない、と痛い目で学びました。
重要なことほど、別のAIや別の方法でも聞く
判断に関わる大事なことは、ひとつのAIの答えで決めません。
別のAIに同じことを聞いて、答えが食い違わないか見る。食い違ったら、どちらかが間違っているサインです。
そのうえで最後は、人間が公式で確認します。AI同士が一致していても、両方仲良く間違っていることがあるので。
「断定の口調」ほど疑う
これは感覚の話ですが、AIがやけに自信たっぷりに言い切ってくるときほど、私は逆に警戒します。
本当に正しくて断定しているのか、それっぽく作っているだけなのか、口調からは見分けがつきません。だから口調では信用しない、と決めています。
どこを疑うべきか、まとめた表
私が特に気をつけている部分を整理しておきます。
| AIの答えの種類 | 危険度 | 私の対応 |
|---|---|---|
| 書名・論文・出典 | 高い | 実在するか必ず検索で確認 |
| 数字・統計 | 高い | 一次情報の公式ページで確認 |
| 制度・法律・最新ルール | 高い | 役所・公式の最新情報で確認 |
| 日付・固有名詞 | 中くらい | 別の情報源で照合 |
| 一般的な考え方・手順 | 低め | 基本は信頼、要所だけ確認 |
危険度が高いものほど、AIの答えを信じる前に手を動かします。
注意点
ここで書いたのは、AIを使うなという話ではありません。私は今でも毎日AIを使っています。
ただ、AIを「答えを出す存在」ではなく「下書きを作る存在」として扱うようになりました。最終確認は人間がやる、という前提に変えただけです。
AIの性能はバージョンで変わりますし、ハルシネーションの起きやすさも変わります。ここに書いたのは、ある時点での私の経験です。
どのAIに課金するか、無料で足りるかという判断も、結局この「確認の習慣」とセットで考えるべきだと思っています。料金面の考え方はChatGPT Plusが本当に必要かを無料で足りる人と有料に向く人で分けて考えた話にまとめてあります。
よくある質問
Q. AIはどのくらいの頻度で間違えますか?
内容によります。一般的な手順の説明はかなり正確ですが、具体的な数字・出典・最新の制度になると、私の体感では油断できない頻度で外します。
Q. ファクトチェックに時間がかかりませんか?
全部確認すると大変なので、私は危険度の高い部分だけ。それでも、でっち上げを世に出すリスクを考えれば安いものです。
Q. 出典を聞けば安心ですか?
安心できません。私は出典そのものが作られていた経験があります。出典が実在するか、中身まで確認して初めて意味があります。
Q. どのAIなら間違えませんか?
私が使った範囲では、間違えないAIはありませんでした。どれを使っても、確認の習慣はセットで必要です。
関連記事として、AIツールの有料プランは必要？ もあわせてどうぞ。
まとめ
AIの答えを信じて失敗した経験から、私はこう考えるようになりました。
- AIは存在しない情報をもっともらしく作ることがある
- 特に数字・固有名詞・日付・出典・最新制度は要注意
- 出典名だけで安心せず、中身まで確認する
- 大事なことは別の手段でも照合し、最後は人間が確認する
私は一度、存在しない本を引用しかけました。あの深夜の検索一回がなかったら、と思うと、今の確認の習慣はあの失敗のおかげです。
AIを使うこと自体はやめません。ただ、信じる場所と疑う場所を分ける。これだけで、致命的な失敗はかなり防げると感じています。
著者：ノオ