調べものでこまったとき、AIにきくと数秒で答えが返ってきます。文章はきれいで、言い方には迷いがなく、いかにもくわしい人が書いたように見えます。ところが、その答えがまちがっていることがあります。やっかいなのは、まちがっているときも、見た目がまったく変わらないことです。5年生の社会では、情報がどのように作られて、どのように届くのかを学びます。AIは、その流れのいちばん新しい入口です。ここでは、なかのしくみを知ったうえで、自分でたしかめる手順まで持ち帰ります。
文章を書くAIは、インターネット上にある、ものすごい量の文章を読みこんで作られています。そこで覚えたのは、書いてある内容そのものではありません。ある言葉のあとに、どの言葉が来やすいかという、続きやすさのくせのほうです。
たとえば「日本でいちばん高い山は」という書き出しがあったとき、そのあとに来る言葉としていちばん多かったのは「富士山」でした。だからAIは「富士山」と書きます。このとき、AIの中で富士山の高さを調べたり、地図を思いうかべたりしているわけではありません。いちばん続きやすい言葉をえらんで、1語ずつならべているだけです。
「よく書かれてきたこと」ほど、AIは正しく書けます。ぎゃくに、ほとんど書かれていないこと──たとえば自分の学校のことや、先週おきたばかりのできごと──は、続きやすさの手がかりがありません。それでもAIは、それっぽい続きを作ってしまいます。
ここが、人が答えるときとの大きなちがいです。人は知らないとき「知らない」と言えます。AIのしくみには、知らないところで止まるブレーキが最初から入っていません。ならべる言葉がなくなることがないので、いつでも、何かは出てきます。
AIが、実際にはないことを本当のように書いてしまうことを、作り話という意味の言葉でハルシネーションと呼びます。よく起きるのは、次のようなところです。
| たずねたこと | AIが強いか | 理由 |
|---|---|---|
| 漢字の成り立ち、ことわざの意味 | 強い | 同じ説明が何万回も書かれてきた |
| 物語のあらすじ、有名な人の仕事 | 強い | ほとんどの本で同じように語られる |
| 細かい数字（人口・面積・年号） | 弱い | 似た数字が多く、入れかわりやすい |
| 本の題名や、そのページ数 | 弱い | 題名は「ありそうな形」を作れてしまう |
| 近所のお店、自分の学校のこと | 弱い | もとになる文章がほとんどない |
| 今週おきたできごと | 弱い | 覚えた時点より新しいことは知らない |
とくに気をつけたいのは、下の3行です。ここでAIが出してくるものは、うそをつこうとした結果ではなく、「ありそうな形」をきちんと作った結果です。だから、いかにも本物らしい題名や、いかにもありそうな数字になります。見ただけで見分けるのは、大人でもできません。
くらべてみると、ちがいがはっきりします。新聞やテレビのニュースは、だいたいこの順で作られます。
ここで大事なのは、2番と5番です。まちがえない人はいない、という前提のもとで、まちがいを見つけるための作業が、あらかじめ組みこまれている。これが取材して伝える仕事のしんの部分です。
AIの答えには、この1から5がまるごとありません。取材はしていませんし、裏もとっていません。別の人が読んで差しもどすこともなく、「この答えは、だれが責任をもって言っているのか」がどこにも書かれていません。だから、AIの答えはできあがったニュースではなく、だれかが書きかけたメモくらいの場所に置いておくのが、ちょうどよい付き合い方になります。
最近は、参考にしたページのリンクをいっしょに出してくれるAIもあります。それは大きな進歩ですが、リンクがついている＝確かめた、ではありません。リンク先を開いたら、そんなことは書いていなかった、ということが実際におきます。ついているリンクは「ここを見に行ってね」という案内であって、答えの保証ではありません。
むずかしいことはしません。次の3つを順にやるだけで、だいたいのまちがいは手前で止まります。
まず「これはどこに書いてあったことなのか」をさがします。市の人口なら市役所のページ、山の高さなら国の地図を作っている役所、学校の予定なら学校のたより。そのことを実際に数えた人・決めた人が出しているところが、いちばん近い場所です。ここにたどりつけたら、その時点でAIの答えは役目を終えています。
1か所だけで決めないのは、コピーが出回っていることがあるからです。だれかがまちがえて書いた数字が、そのまま何十ものページに写されると、検索したときにはたくさん出てきます。数が多いことは、正しさの証明にはなりません。見るのは件数ではなく、もとが別々かどうかです。どちらもたどっていくと同じページに着くのなら、それは1か所と数えます。
人口も、お店の数も、りんごのとれ高も、年がちがえば数字はちがいます。ページのすみにある更新日を見て、その数字がいつの時点のものかを確かめます。調べ学習のノートにも、「◯◯市ホームページ（2026年4月時点）」のように、出どころと時点をセットで書いておきます。これを書いておくと、あとで先生や友だちに聞かれたときに、自分の力で説明できます。
この3つをまとめると、こうなります。どこから・いくつのもとで・いつの話か。3語だけ覚えておけば、ネットの記事でも、動画でも、友だちから回ってきた話でも、まったく同じように使えます。
AIをまったく使わない、という話ではありません。むいている仕事と、むいていない仕事があります。
| やらせること | むいているか | そのあとにすること |
|---|---|---|
| 調べるテーマの案を出してもらう | むいている | 気に入ったものを自分でえらぶ |
| むずかしい言葉をやさしく言いかえてもらう | むいている | 国語辞典で意味を1回見る |
| 自分の文の、分かりにくい所を教えてもらう | むいている | 直すかどうかは自分で決める |
| 数字・年号・地名を教えてもらう | むいていない | 手順1〜3で必ず確かめる |
| 本やページの題名を教えてもらう | むいていない | その題名が実在するか検索する |
| 作文や感想文を書いてもらう | だめ | ── |
いちばん下だけは、正しいかどうか以前の話です。出てきた文章は自分が考えたものではないので、名前を書いて出せば、他人の作ったものを自分のものとして出したことになります。これは、写真や音楽を勝手に使ってはいけないのと同じ線の上にあります。「調べるのを手伝ってもらう」と「かわりにやってもらう」の間に線を引く。そこだけ決めておけば、あとは気持ちよく使えます。
AIの文章には「たぶん」「自信がありません」があまり出てきません。
これは、たくさんの人が書いた文章が、そもそも言い切りの形で書かれているからです。言い切りの強さは、正しさの強さとは関係がありません。堂々としているかどうかではなく、もとがあるかどうかで判断します。
調べ学習のまとめに「AIによると」と書いてあるのを見かけます。
けれども、AIはそのことを見てきた人ではありません。書くべきなのは、AIがきっかけで見つけた、本当の出どころのほうです。AIは図書館で本の場所を教えてくれる人のようなもので、ノートに書き写すのは、教えてもらった棚にあった本の中身です。
「ちがうよ」と伝えると、AIはすぐにあやまって、別の答えを出してくれます。ところが、その新しい答えもまちがっていることがあります。
AIは自分の答えを調べ直したのではなく、「あやまったあとに続きやすい言葉」をまたならべているだけだからです。何回きいても外の世界を見に行っていないので、同じところをぐるぐる回ることがあります。2回きいて合わなかったら、AIから離れて、手順1に切りかえます。
Q1 AIは「日本でいちばん高い山は富士山です」と答えました。この答えは、なぜ当たりやすいのですか。
A その文の続きとしてこれまで何万回も書かれてきた言葉だからです。AIは高さを調べ直したのではなく、いちばん続きやすい言葉をえらんでいます。だから、よく書かれてきたことほどよく当たります。
Q2 同じ数字が書いてあるページを10個見つけました。これで「もとが10か所」と言えますか。
A 言えません。10個とも同じ1つのページを写しているかもしれないからです。見るのはページの数ではなく、もとが別々かどうか。たどっていって同じところに着いたなら、それは1か所です。
Q3 AIが教えてくれた本の題名で調べ学習をまとめようとしたら、図書館にその本がありませんでした。まず何を考えますか。
A その本が、はじめから存在しないかもしれないと考えます。題名は「ありそうな形」を作れてしまうところなので、まちがいがとくに出やすい場所です。図書館の検索で1回確かめ、なければその題名は使いません。
Q4 ニュースの作られ方とAIの答えで、いちばん大きくちがうのはどこですか。
A まちがいを見つける作業が入っているかどうかです。ニュースには、裏をとる・別の人が読む・訂正を出す、というしくみがあります。AIの答えにはそれがないので、その役目を、読んだ人が引きうけることになります。
Q1とQ3は、じつは同じしくみの表と裏です。続きやすい言葉をならべるという同じはたらきが、富士山では当たりを生み、本の題名では作り話を生みます。しくみが1つだと分かっていれば、どこで気をつければよいかを自分で決められます。
AIを禁じるか許すか、という二択で考えると、どちらを選んでも行きづまります。禁じても目に入る場所にありますし、許すだけでは確かめる力が育ちません。この記事では、間の道として「しくみを知ってから使う」を通しました。続きやすい言葉をならべている、というたった一行のしくみが分かると、なぜ本の題名がでたらめになるのか、なぜいつも言い切るのかが、お子さん自身の言葉で説明できるようになります。
ご家庭でやっていただけると効くのは、お子さんがAIから受け取った答えを、いっしょに1回だけ確かめてみることです。市の人口でも、山の高さでもかまいません。出どころのページにたどりつけたとき、AIの数字と合っていれば「合っていた」という経験に、ちがっていれば「見た目では分からない」という経験になります。どちらに転んでも学習になるので、結果を当てにいく必要はありません。
宿題については、学校ごとの決まりが先にあります。この記事では、決まりの有無にかかわらず通用する線として、「調べるのを手伝ってもらう」と「かわりにやってもらう」の区別だけを置きました。作文や感想文をそのまま出す形は、正誤以前に本人の作品でなくなってしまう、という説明の仕方をしています。
なお、AIに話しかけるときに、本名・学校名・住所・写真などを入れないことも、あわせてお伝えください。入力した内容がどこに残るかは、サービスによってちがいます。迷ったら入れないという一線を先に引いておくと、そのつど判断に時間を使わずにすみます。