
生成AIを診療に使う医師は、これからますます増えていくだろう。私自身も使っている。
例えば、どうも診断がすっきりしない患者について、年齢、症状、検査所見などを入力し、「鑑別診断を挙げて」と尋ねてみる。すると数秒で候補が並ぶ。「なるほど、これは考えていなかった」と思う疾患が入っていることもある。薬の副作用や相互作用を確認したり、専門外の領域について自分の知識を整理したりするのにも便利だ。
もちろん生成AIは間違える。存在しない論文をもっともらしく示す「ハルシネーション」については、医師の間でもかなり知られるようになった。だから、AIの回答を鵜呑みにせず、最後は自分で確認する。そう心得て使えば良い——私もそんなふうに考えていた。
AIが間違うと医者も間違う
ところが最近、ちょっと怖い研究を目にした。2026年4月にAIの活用に特化した医学誌『NEJM AI』のオンライン版に公開されたパキスタンのコンピューター学者Qazi氏らによる「Automation Bias in Large Language Model Assisted Diagnostic Reasoning Among AI-Trained Physicians(AI研修を受けた医師の大規模言語モデル支援診断推論における自動化バイアス)」だ。
同論文によれば、研究に参加したのは44人の医師である。6つの臨床症例を提示し、生成AIを利用しながら診断してもらった。参加した医師たちは事前に20時間のAIリテラシー研修を受けているので、“AI初心者”ではない。
筆者らはここで、ある仕掛けを施した。医師を無作為に2群に分け、一方には生成AIによる通常の診断提案を提示したが、もう一方にはわざと一部に臨床的に重要な誤りを含む提案を提示したのである。
その後、診断名だけでなく鑑別診断やその根拠などを含めて医師の「診断推論」を採点したところ、正しいAIの助言を受けた群の平均得点は84.9%だったのに対し、誤ったAIの助言を提示された群では73.3%に低下したのだった。
つまり、診断の際に用いたAIが間違えると、人間の医師までそれに引きずられて一緒に間違えることがあるということだ。
生成AIの登場以前にも同じような指摘はあった。2023年の『Radiology』に掲載された研究では、放射線科医がAIの補助を借りてマンモグラフィーを読影する際、AIが誤った判定を提示すると医師の診断成績も大きく低下するという結果が示された。またその際、医師の経験年数は関係なく、経験豊富な放射線科医もその影響と無縁ではなかったという。
こうした現象は、最近の心理学では「自動化バイアス」と呼ばれる。コンピューターなど自動化されたシステムが提示する判断を、人間が必要以上に信頼し、自分自身の判断よりも優先してしまう心理的傾向である。この傾向は生成AIが登場する以前から、航空、産業、医療などさまざまな領域で問題にされてきたが、普及するにつれそれが加速度的に進んでいる。
生成AIによる診断アドバイスは、単に「A疾患の可能性70%」と数字を表示するだけではない。「この患者ではAを第一に考えます。理由は、①この症状、②この検査所見、③この経過が典型的だからです。ただしBやCも除外診断を行う必要があります」とあたかも優秀な専攻医が症例検討会で発言するような診断の論拠や除外診断までを提示する。しかも、文章がうまく、言い淀みもない。こちらの質問に応じて説明を追加し、反論すればそれにも答える。
診断がAかBかで迷っている患者がいたとして、データとともに生成AIに質問すると、立ちどころに「Aが最適だと考えられます」といった答えとその理由が返ってくる。それを読んでから、もう一度カルテを見ると、これまでとは解釈が変わるのを感じるはずだ。
——なるほど、この検査値はAに合う。Aならこの症状も説明できる。そういえば前回も似た訴えがあったはずだ……。
次々とAを支持する材料が目に入ってくる。そしてカルテの見直しを終える頃には、「AIがAと判断した」ではなく、「やはり私も最初からAだと思っていたのだ」という感覚になっている。「AIはAだという私の考えを裏付けしてくれただけなのだ」とも思うかもしれない。
だが、言うまでもないが、それは本当の意味での自分の意思ではない。
このように、生成AIの回答やそこに至るプロセスがあまりに鮮やかなために、私たちの思考はそれを読む瞬間から影響を受ける可能性がある。生成AIは「ちょっと待って、それは私が考えたことではないですか。勝手に盗用しないでくださいよ」などとも言わないので、使用者は自信たっぷりに「私はこのように推論し、この診断に至りました」と述べることもできるのだ。
AIは意地悪な反論者として用いるべき
もちろん、これからの臨床で生成AIのような便利な道具を使わない手はない。思いつかなかった鑑別疾患を挙げてもらう。専門外の疾患について整理してもらう。薬剤について確認する。患者への説明をわかりやすく言い換えてもらう。使い方はいくらでもある。
ただし、診断について相談する時には、ちょっとした工夫が必要だろう。
まず生成AIに尋ねる前に、自分で考える。「第一候補はA。次にB、Cも除外診断しておきたい」と短くても良いから、自分の考えをいったん形にしておくことが必要となってくる。
次に、「私の診断で正しいでしょうか?」と確認するだけではなく、「この診断に反する所見は何か」「私が見落としている疾患はないか」「Aではないとしたら何を考えられるか」と、質問はなるべく具体的に狭い範囲で行う。あくまで、生成AIを自分の診断に反論してくれる相手として使うのである。
そして、重要な診断や治療方針については、必ずガイドラインや原著など、“自分だけの根拠”となる情報に戻ることを忘れないようにしたい。
生成AIは今後、聴診器や血圧計のような、診療に用いるごく普通の道具になっていくだろう。性能もさらに上がる。それは歓迎すべきことだと思う。
しかし、それが賢くなればなるほど、そのもっともらしい答えに影響されている自分自身に対しては、少し慎重に、かつ批判的になった方が良い。
私の知人の新聞記者も、記事の構想用に生成AIを使っていたが、最近は恐ろしくなって使うのをやめたと言っていた。取材メモを生成AIに入れるだけで、それなりに読みごたえのある記事まででき上がってしまい、つい「そうだ、私は最初からこれが書きたかったのだ」と納得しそうになるからだそうだ。
画面に鮮やかな診断名が示された時、ほんの一瞬で良い。自分にこう尋ねる習慣を持っておきたい。
「待てよ、この診断は本当に私が下したものだと言い切って良いだろうか?」



































LEAVE A REPLY