AIは、まちがった内容も、自信たっぷりの文章で書きます。文章が自然なぶん、読んだだけではまちがいに気づきにくいのが困ったところです。この記事では、AIのまちがいが出やすい所と、確かめ方を説明します。
ねねさんAIがうそをつくんですか？
塾長わざとではありませんよ。AIは、もっともらしい言葉をつなげて文章を作ります。その結果、事実と違うことがまじるんです。
- AIがまちがえる理由
- まちがいが出やすい情報の種類
- 一次情報で確かめる手順と、出典の確かめ方
AIは、もっともらしい「うそ」を書くことがある
AIが事実と違う内容を、本当のことのように書くことを、ハルシネーションといいます。英語で「幻覚」という意味の言葉です。
このため、文章が自然でも、中身がまちがっていることがあるのです。
まちがいが出やすいのは、数字・名前・最新の情報・出典
AIのまちがいは、次のような所に出やすくなります。
| 種類 | 例 |
|---|---|
| 数字 |
|
| 名前 | 制度・法律・会社・商品の名前 |
| 最新の情報 |
|
| 出典 |
|
文章の中にこうした言葉が出てきたら、確かめる印をつけましょう。前の記事の【要確認】も、確かめる場所の目印になります。ただし、【要確認】がついていない所にも、まちがいはまじります。
一次情報で確かめる4つの手順
AIの下書きは、次の4つの手順で確かめます。
- 印をつける：数字・名前・最新の情報・出典に印をつける。【要確認】がない所も見る
- 一次情報を探す：制度名や商品名で検索し、国・自治体・メーカーなどの公式のページを開く
- 照らし合わせる：AIの文章と公式のページを比べ、数字だけでなく対象・条件・時期まで合っているかを見る
- 直すか消す：合っていれば残し、違えば直す。確かめられなければ消す
一次情報については、STEP 04の「信頼される記事にする」で説明しました。僕も、数字・制度・法律は、必ず公式のサイトで確かめてから記事に使っています。
確かめられなかったことは、書かないのが基本です。
AIが示した出典も、自分で開いて確かめる
AIに「出典を教えて」と聞くと、記事の名前やURLを挙げてくれることがあります。ただ、挙げられたページが実在しないことや、書いてある内容が違うこともあります。出典は自分で開いて、次の2つを確かめましょう。
- ページがあるか
- その内容が本当に書いてあるか
開いたページがまとめ記事なら、そこからさらに一次情報までたどります。
- AIの答えを、AIに「合っていますか？」と聞いただけで済ませない
- まとめ記事で同じ数字を見つけても、それだけで正しいとは限らない。一次情報までさかのぼる
ねねさんAIにもう一度聞くだけでは、確かめたことにならないんですね。
塾長AIは、調べる手がかりを探すのには役立ちます。でも最後は、公式のページを自分の目で見る。ここは人の仕事です。
まとめ
- AIは、事実と違う内容を本当のように書くことがある（ハルシネーション）
- まちがいが出やすいのは、数字・名前・最新の情報・出典
- 印をつける→一次情報を探す→照らし合わせる→直すか消す、の順に確かめる
- AIが示した出典も、自分で開いて確かめる。確かめられないことは書かない
塾長次は、STEP 05の最後です。AIの文章を、自分の記事に仕上げる方法を見ていきましょう。
