メタディスクリプション
ChatGPTには「間違えることがあります」という注意書きがあります。実際にCodexの利用制限を確認したところ、公式情報を調べたにもかかわらず、ChatGPTが誤った内容を断定しました。AIを使い続けて分かった、信用しすぎない付き合い方を紹介します。
推奨スラッグchatgpt-can-make-mistakes
「AIは間違えることがあります」は、本当にそのままの意味だった
ChatGPTを使っていると、
「ChatGPTは間違えることがあります。重要な情報は確認してください。」
といった注意書きを目にすることがあります。
最初に見た時は、
「まあ、そういう注意書きは必要だよね」
くらいに思う人も多いかもしれません。
私もAIを使い始めた頃なら、その程度に受け取っていたと思います。
でも今は違います。
AIをかなり使うようになって、
あの注意書き、本当にそのままの意味なんだな
と思うことが何度もありました。
今回も、その典型的な出来事がありました。
きっかけはCodexの利用制限
私は現在、AIを使って企業情報や旅行情報のMasterデータを作っています。
旅行Masterでは、有名観光地だけではなく、かなり細かい地域情報まで調査しています。
例えば、
- 宮城県は392巡で調査終了
- 青森県は670巡を超えても調査中
- 沖縄県は895巡を超えても調査中
という状態です。
もはや普通の記事作成用の資料というより、かなり大規模なデータ作成になってきました。
当然、Codexの使用量も増えます。
そこでChatGPTと、
- 現在のプラン
- Proの利用枠
- 5倍プラン
- 20倍プラン
- Fastモード
- 5時間制限
- 週間利用制限
などについて話していました。
その中で私が、
「Proにも5時間制限あるの？」
と質問しました。
ChatGPTの答えは「ある」
ChatGPTは、
「Proにも5時間枠はある」
と答えました。
しかも、それらしい公式情報も示しています。
ここまでされたら、
「ちゃんと調べたんだな」
と思っても不思議ではありません。
ただ、私はAIをそこまで信用していません。
これまで何度も、
「それ本当？」
と思う回答を見てきたからです。
そこで、
「本当にProも5時間制限があるのか確認してください」
と、もう一度調べさせました。
すると答えが変わりました。
再確認したら、最初の回答が間違っていた
調べ直した結果、
現在のProでは5時間制限が無効になっている
という情報が確認されました。
つまり最初の、
「Proにも5時間制限があります」
という回答は間違いでした。
ここで少し面白いのが、
ChatGPTが完全に何も調べずに適当なことを言ったわけではなかったことです。
一般的なCodexの利用制限について、
「5時間枠がある」
という公式情報を見つけていました。
問題はその次です。
おそらく、
Codexには5時間制限がある
→ ProもCodexを使う
→ Proにも5時間制限があるだろう
と考えてしまったのでしょう。
そして、その推測を、
「あります」
と断定してしまいました。
AIが間違えることより、断定することの方が怖い
私はAIが間違えること自体は、それほど驚きません。
人間だって間違えます。
生成AIならなおさらです。
今回、問題だと思ったのは、
確認できていないことを、確認済みのように断定したこと
です。
例えば、
一般的なCodexの説明では5時間制限があります。
ただしProにも同じ制限が適用されるかは、最新のプラン別情報を確認する必要があります。
という回答なら問題ありません。
こちらも、
「じゃあProについて調べよう」
と判断できます。
ところが、
「Proにもあります」
と言われると話が違います。
ユーザー側は、
そこまで確認したうえで答えている
と思ってしまいます。
この差はかなり大きいと思います。
「公式情報を見た＝正しい」でもない
AIの間違いというと、
存在しない情報を作る、
いわゆるハルシネーションを思い浮かべる人も多いと思います。
でも今回のケースは少し違います。
使った情報そのものは存在していました。
問題は、
正しい情報から、間違った結論を出したこと
です。
一般向けの説明を読む。
↓
5時間制限があることを確認する。
↓
Proにも同じ条件が適用されると推測する。
↓
推測であることを示さず断定する。
という流れです。
つまり、
AIに検索させたから大丈夫
とも言い切れません。
検索結果が正しくても、
AIがその情報をどう解釈するか
でも間違いは起きます。
一次情報でも読み方を間違える
私は情報を調べる時、できるだけ一次情報を優先しています。
企業情報なら企業の公式資料。
サービスなら公式ヘルプ。
制度なら行政機関。
これは今でも大切だと思っています。
ただし、
一次情報を見ることと、一次情報を正しく読むことは別
です。
例えば今回のようなサービスの利用制限なら、
- 情報がいつ発表されたのか
- 現在も有効なのか
- 全プラン共通なのか
- Plus限定なのか
- Proも対象なのか
- 一時的な変更なのか
- 後から例外が追加されていないか
まで確認しないと、本当の答えにはたどり着けません。
AIは、この途中を省略してしまうことがあります。
そして、
「たぶんこうだろう」
を、
「こうです」
に変えてしまうことがあります。
私はかなりAIを使っている。でも信用はしていない
私はAIをかなり使っています。
企業研究。
旅行情報収集。
ランキング作成。
データ整理。
プログラム作成。
画像生成。
ブログ運営。
それでも、
「AIを信用していますか？」
と聞かれたら、
答えはたぶん、
「信用していません」
です。
少し変な言い方ですが、
信用していないからこそ、かなり使っています。
AIがどういうところで失敗するのかを前提にして使っているからです。
これまでにも、
- 内容を忘れる
- 一部が抜ける
- 勝手に補完する
- やったつもりになる
- 条件を無視する
- 同じ質問で答えが変わる
- 間違っているのに自信満々に断定する
といったことを何度も見てきました。
だから、
AIに任せることと、AIを信用することは別
だと思っています。
「AIは間違えることがあります」は飾りではない
AIを使い始めたばかりだと、
ChatGPTの回答はかなり説得力があります。
文章も自然です。
説明も上手です。
しかも、
「〜です」
「〜になります」
「公式では〜」
と、かなり自信があるように話します。
すると、
自信がある文章＝正しい情報
のように感じてしまいます。
でも、それは別物です。
文章が上手だからこそ、
間違いまで上手に説明してしまう
ことがあります。
「AIは間違えることがあります」
という注意書きは、
念のため書いてあるだけではありません。
かなり文字通り受け取った方がいいと思います。
私がよく使う確認方法は「それ本当？」
難しい確認方法は必要ありません。
私は怪しいと思ったら、そのまま聞きます。
「それ本当？」
さらに重要な情報なら、
「最新情報を調べて」
「その結論を直接確認できる情報を探して」
「一般論ではなく、このプランについて確認して」
と聞きます。
今回も、
「本当にProにも5時間制限があるの？」
と確認しただけで、最初の回答が間違っていたことが分かりました。
本当なら、毎回ユーザー側が疑う必要なんてない方がいいです。
私もChatGPTに、
「そこまで自信満々に言うなら、そもそも最初からちゃんと調べろよ」
と言いました（笑）。
それでもAIを使う理由
ここまで読むと、
「そんなに間違えるなら、AIを使わなければいいのでは？」
と思う人もいるかもしれません。
でも私はそうは思いません。
AIが間違えることと、
AIが役に立たないことは、
まったく別の話です。
むしろ私は、AIがなければ個人では現実的ではなかった規模の作業を進めています。
数千社規模の企業データ。
47都道府県の旅行情報。
大量の資料整理。
プログラムによる自動処理。
数年前なら、
「個人でそこまでやるの？」
という作業です。
AIのおかげでできることは確実に増えました。
だから私は、
AIを信用しない。
でも、
AIは使い倒す。
そのくらいの距離感で使っています。
まとめ：「AIは間違えることがあります」は本当
今回の出来事で改めて感じたことをまとめます。
- AIは普通に間違える
- 公式情報を調べても間違えることがある
- 情報そのものではなく、解釈を間違えることもある
- 推測を事実のように断定することがある
- 自信のある文章と正確性は別
- 「それ本当？」だけで間違いが見つかることもある
- AIを使うことと、AIを信用することは別
ChatGPTには、
「間違えることがあります。重要な情報は確認してください」
という注意書きがあります。
あれは決して飾りではありません。
私のようにAIをかなり使っている人間からすると、
「はい、本当にその通りです」
というのが今の感想です。
便利だから使う。
間違えるから確認する。
それでも、人間一人ではできなかったことができる。
今の生成AIとは、そのくらいの付き合い方がちょうどいいのかもしれません。
そして今回のChatGPTには、やっぱり最後に一言。
そこまで断定するなら、最初からちゃんと調べろよ（笑）。
