生成AIを使っていると、ときどき怖くなる瞬間があります。
それは、AIが明らかにおかしなことを言ったときではありません。
間違っているのに、ものすごく自然に、正しそうに説明してきたときです。
最近、AIをかなり使うようになって感じるのですが、AIの怖さは単純な「嘘」だけではありません。
むしろ、
8割くらい正しいことを言いながら、残り2割を自然に補完してしまう。
これがかなり厄介です。
しかも文章はきれいで、理由まで説明してくれます。
知らない分野について質問している人からすると、間違いに気づくこと自体が難しい。
そして、これからAIを当たり前に使う子どもたちは大丈夫なのだろうか？
そんなことを考える出来事がありました。
「かみのむすびかたおしえて」とAIに聞いてみた
AIに、
「かみのむすびかたおしえて」
と入力してみました。
するとAIは、
「まず髪を後ろに集めて、ヘアゴムを……」
と、普通に髪の結び方を説明し始めました。
でも、もし私が聞きたかったのが、
紙の結び方
だったらどうでしょう。
AIからすれば「かみ」という音だけでは、
- 紙
- 髪
- 神
のどれなのか完全には判断できません。
今回の文章なら「髪の結び方」と判断するのも不自然ではありません。
つまり、これはいわゆるハルシネーションとは少し違います。
存在しない情報を作ったわけではなく、
AIが質問の意味を間違って解釈した
というケースです。
でも利用者から見れば、結果は同じです。
聞きたかったものとは違う答えが、自信満々に返ってくる。
日本語は同じ音が多すぎる
考えてみれば、日本語にはこういう言葉が大量にあります。
例えば、
「はれる」
だけでも、
- 紙を貼れる
- ロープを張れる
- 傷が腫れる
- 天気が晴れる
があります。
「はし」なら、
- 箸
- 橋
- 端
「きる」なら、
- 切る
- 着る
「かえる」なら、
- 帰る
- 変える
- 替える
- 蛙
人間同士なら前後の会話や状況から判断します。
AIも同じように文脈から推測します。
しかし、推測である以上、当然間違えることがあります。
大人なら、
「違う違う、髪じゃなくて紙」
とすぐ訂正できます。
でも、漢字をまだ十分に覚えていない子どもならどうでしょう。
特に音声入力の場合、
「紙の“かみ”です」
と漢字を指定することすら難しいかもしれません。
知らないからAIに聞いているのに、どうやって間違いに気づくのか
ここがAI教育で一番難しいところだと思います。
よく、
「AIは間違えることがあるから、自分で確認しましょう」
と言われます。
正論です。
でも現実には少し変です。
知らないからAIに聞いているのに、その回答が正しいかどうかを自分で調べ直さなければならない。
それなら最初から自分で調べた方が早い場合もあります。
AIで調査。
そのあと人間が同じ内容を全部再調査。
これではAIで短縮した時間が消えてしまいます。
私は普段かなりAIを使っていますが、すべての回答を自分で確認しているわけではありません。
そんなことをしていたら、とても使い切れません。
ある程度は信用する。
重要なところだけ確認する。
必要なら別のAIに監査させる。
そんな使い方になっています。
一番怖いのは「たぶん」が付いていない間違い
個人的に一番危険だと思うのは、
AIが間違うこと自体ではありません。
例えば、
「おそらく○○です」
「○○の可能性があります」
と言われれば、こちらも確定情報ではないと分かります。
怖いのは、
本当は推測なのに、普通の事実説明として断定されることです。
文章も自然。
理由もある。
専門用語も使われている。
場合によってはソースまで付いている。
だから、
「ここまでちゃんと説明されているなら正しいだろう」
と思ってしまいます。
これがAIの厄介なところです。
完全なデタラメなら気づきやすい。
でも、
ほとんど正しい説明の中に、小さな間違いが混ざっている。
これはかなり見抜きにくいです。
ソース付きならかなり安心。でも100％ではない
最近のAIは、Web検索をして情報源を表示してくれることが増えました。
これはかなり便利です。
私自身、ソース付きの回答については、ある程度そのまま信用しています。
毎回すべてのリンクを開いて確認していたら大変だからです。
ただし、ソースがあるから絶対に正しいわけでもありません。
例えば、
公式資料にはAまでしか書いていない。
でもAIが、
「つまりBということです」
と少し話を広げる。
ソース自体は本物です。
しかし、そのソースがAIの結論まで本当に裏付けているとは限りません。
さらに厄介なのが、
「確認しました」
「ソースがあります」
「反映しました」
と言っているのに、実際の成果物には反映されていないケースです。
私はAIを使った大規模な企業調査もしていますが、こういうことは普通に起きます。
だから重要な作業では別のAIに監査させています。
それでも完全ではありません。
AIがAIを監査して、同じ勘違いをする可能性もあります。
AIを信じる子と、AIを使う子
これからAIが一般化すると、子どもたちの間でかなり大きな差が出る可能性があります。
ただ、それは単純に、
頭のいい子と、頭の悪い子
という分かれ方ではないと思います。
むしろ、
AIの答えをそのまま受け取る子
と、
AIを道具として使える子
の差です。
例えば宿題でAIを使ったとします。
ある子は、
「AIがこう言っているから答えはこれ」
で終わる。
別の子は、
「なんでそうなるの？」
「他の考え方は？」
「根拠は？」
「これは確定情報？」
「そもそも私の質問の意味、ちゃんと分かってる？」
とAIに聞く。
同じAIを使っていても、数年後にはかなり差が出るかもしれません。
純粋で素直な子ほど危ないのか
ここは少し気になります。
純粋な子。
素直な子。
人を疑うのが苦手な子。
気の弱い子。
もちろん、それ自体は悪いことではありません。
でも、
「丁寧に説明された＝正しい」
と思ってしまうと、AIとの相性は少し危険かもしれません。
AIは怒りません。
自信満々です。
こちらの質問にも優しく答えてくれます。
人間より信用しやすい存在になる可能性すらあります。
そこでAIが間違ったことを言ったとき、
「AIが言っているんだから、自分の方が間違っている」
と思ってしまう子が出てきても不思議ではありません。
では、その子が、
「AIも普通に間違えるんだ」
と初めて気づくのはいつでしょうか。
小学生なのか。
高校生なのか。
大学生なのか。
社会人になってからなのか。
もしかすると、その「気づく時期」が一つの人生の分岐点になる可能性すらあります。
もちろんこれは大人も同じです。
だからといって「AIを疑え」だけではダメ
では子どもに、
「AIの言うことを信用するな」
と教えればいいのでしょうか。
私はそれも違うと思います。
AIは間違いなく便利です。
分からないことを何度でも質問できます。
難しい説明を、
「小学生でも分かるように説明して」
と言えば言い換えてくれます。
英語。
数学。
プログラミング。
歴史。
いろいろな分野の先生になれます。
家庭教師を雇えない家庭でも、かなり高度な学習支援を受けられる可能性があります。
つまりAIは、教育格差を縮める可能性もあります。
一方で、
AIの回答をそのままコピーする。
考えなくなる。
間違いに気づかない。
質問の意味をAIが取り違えていることにも気づかない。
となれば、逆に格差を広げる可能性があります。
AIは、
教育格差をなくす装置というより、使い方によって差を大きくする「増幅装置」
なのかもしれません。
子どもに教えるなら「確認の仕方」
全部疑え。
全部調べ直せ。
では現実的ではありません。
だから必要なのは、
どんなときに確認した方がいいのか
を教えることだと思います。
例えば、
「これは事実なの？」
「AIの予想なの？」
「ソースはある？」
「いつの情報？」
「そのソースに本当にそう書いてある？」
そして今回のようなケースなら、
「私の言っている『かみ』って、何の意味だと思った？」
と聞いてみる。
これだけでもかなり違います。
AIの回答を全部疑う必要はありません。
でも、
AIが質問を正しく理解しているとは限らない。
AIが自信満々だからといって正しいとは限らない。
この2つだけでも知っておく価値は大きいと思います。
大人もまったく他人事ではない
ここまで子どもの話をしてきましたが、これは大人も同じです。
むしろ大人の方が、
専門用語。
数字。
長い説明。
立派な資料。
公式っぽいソース。
こういうものが並ぶと、
「ちゃんと調べてあるな」
と簡単に信用してしまうことがあります。
私自身、AIをかなり使っていますが、
「あれ？それ本当にできるの？」
と聞き返すと、
「その条件では難しいです」
と回答が変わることがあります。
だったら最初からそう言ってくれ（笑）
と思います。
でも、おそらくこれが今のAIです。
だからAI時代に必要なのは、単なる操作方法だけではないのでしょう。
「私は今、何を根拠にこの回答を信用しているのか」
を少し考える習慣。
そして、
「そもそもAIは私の質問を正しく理解しているのか」
を確認する習慣。
これがかなり重要になりそうです。
最後に
今回、
「かみのむすびかたおしえて」
と聞いたら、AIは髪の結び方を教えてくれました。
大人なら、
「いや紙だよ（笑）」
で終わります。
では、それが自分の知らない分野だったら？
自分自身も正解を知らなかったら？
まだ漢字を十分に覚えていない子どもだったら？
そう考えると、少し怖くなります。
AI時代の子どもに教えるべきなのは、
「AIを信じるな」
ではないと思います。
むしろ、
「AIはとても便利。でも、正しそうに間違えることもあるし、あなたの言葉を違う意味に受け取ることもある」
ということ。
紙と髪。
貼れると晴れると腫れると張れる。
そんな小さな違いからでも、AIとの付き合い方を学ぶことはできるはずです。
AIを信じるか。
AIを疑うか。
ではなく、
AIを使いこなせるか。
これからの教育では、その差が想像以上に大きくなるのかもしれません。
