第9回　GPT-5.5でも間違える？―「ハルシネーション」をもっと減らす方法

みなさん、こんにちは。近畿大学皮膚科の大塚です。今回はですね、「ChatGPTの答えをどこまで信じたらいいか―ハルシネーションとの付き合い方」ということで、またハンズオンでやってみたいと思います。

これはChatGPTの最新版（2026年5月現在）の画面になりますけれども、まず最初に私のほうから、現段階での「ハルシネーション（間違い）」の感覚を話しますと、ほとんど間違いがないところまで来ちゃってるなという印象です。
みなさんご自身の分野で確認してもらうのが一番いいかなと思いますので、ちょっと試しにですね、私が一回、自分の分野で確認しようと思います。はい、今日はこちらですね。

「次のテーマについて、医療者向けに要点を整理してください。 ただし、確実な情報と不確実な情報を分けてください。また、確認すべき一次情報も挙げてください。テーマ：アトピー性皮膚炎の最新治療の考え方」

という内容です。これだけしっかり前提条件として書いておけば、もうAI、ChatGPTはほとんど間違いがない感じで出してくれるんじゃないかなと思います。ちょっとやってみましょう。

最近のAIはですね、ウェブ検索モードで、こういう感じで「ウェブを検索しています」と、これを出してくれるので、そうなるとほとんど間違えないんじゃないかなと思います。ですので、今みたいな「ウェブを検索しています」というのが出るかどうかというのが、一つ大きいポイントかと思います。デフォルトの設定はウェブ検索になっていると思いますので、みなさん出ると思いますが、万が一出なかった場合は設定を変えなければいけませんので、ウェブ検索をできるように、調べて修正してください（編集室註：利用環境によっては、ウェブ検索モードでも「ウェブを検索しています」と表示されない場合もあります。確実な「ウェブ検索」モードの使い方は第3回をご参照ください。また「設定」変更の方法は、本記事にて後述しています）。 

内容はこちらですけれども、「アトピー性皮膚炎（AD）の最新治療の考え方」ですね。 「まず押さえるべき‘‘確実性の高い情報’’」が出ていますね。 内容を見てみますと、今のところは大丈夫ですね。薬の名前も今回は間違っていないですね。 英語で出ているので間違いは少ないですけれど、日本語で書いているときは薬剤名が間違っていたり、一般名が間違っていたりすることがありますのでご注意ください。これもいいですね。 「バリシチニブ（baricitinib）」が足りないですね。ちょっと漏れがある感じですかね。不確実性（が残る情報）ですね、これも大丈夫そうですね。 大きい間違いはなさそうです。ただ1カ所、今バーッと見て気づいたのは、すべての薬剤が網羅されているわけではない、ということかと思います。 

もうちょっと深掘りしたい場合は、さらに追加でこんな感じでプロンプトを打ってみます。

「いまの回答のうち、誤りが入りやすい部分を指摘してください。また、実際に使う前に確認すべき項目をチェックリストにしてください。」

いきましょうか。ここまで念入りにやれば、ChatGPTもいけると思います。一次情報に照らして、もう1回チェックしてくれますね。
AIは同じスレッド、チャットで質問のファクトチェックをやり始めると、ちょっと精度が落ちることがあるんですけれども、だから他のAIに切り替えたほうが間違いは見つけやすいと思います。ただ、ChatGPT-5.5になってからだいぶん賢くなったので、そういう意味ではこういう感じで、同じチャットの流れで質問しても、ちゃんと回答は出てくると思います。
「誤りが入りやすい点」ですね。このへんはですね、一番上の、「『最新治療＝全員に生物学的製剤/JAK阻害薬』ではない」これは回答が間違っているというよりも、誤解をしないように専門家向けにしっかりとした説明になっていますね。ここらへんは全部よさそうです。チェックリストも書かれています。

そんな感じでですね、まず根拠を示させるというところは1つ重要かなと思います。「不確実な点、わからなければ、わからないと言って」とか「確実なところと不確実なところを分けて」とか、さらに「その情報の根拠のリンクを見せて」とか、そういう形でAI、ChatGPTに出力させることで、ハルシネーションを防ぐ方法がいいかなと思います。今、私が見た限りではほぼ間違いがなくて、薬剤が1つだけ日本で適用のあるものが落ちている程度でしたので、「ウェブで検索する」モードが入っていれば間違いはあまり出てこないんですけれども、それでも100点の答えを出そうとする場合は、一次情報を出してもらう、AIに「わからないところは、わからないと言って」とちゃんとプロンプトを入れておくというのが大事かなと思います。はい、今日は以上です。