PMDAが生成AI医療機器の審査ポイント案を公表
独立行政法人 医薬品医療機器総合機構(PMDA)の審査センターは、2026年9月14日付で「生成AIを活用した医療機器の審査ポイント(Draft)」を公表しました。対象は、利用者の自然な文章や音声での問いかけに応じて多様な回答を生成するAIです。大規模言語モデル(LLM)や視覚言語モデル(VLM)として作られたもの、またそれを使って機能を実現した医療機器(文書では「生成AI医療機器」)を主な対象としています。
文書の位置づけは控えめです。発行時点では生成AIを用いた医療機器の審査実績はなく、現在の承認審査の考え方に照らした論点をドラフトとしてまとめたものだと明記されています。これをたたき台に、広く意見を集めてより適切なものにしていくことを目標としています。また、どこまでを医療機器として扱うかは議論が続いており、本文は医療機器に該当する場合を前提にしています。倫理上の課題や、個人情報保護法・著作権法などの関連法規の課題は扱わないとしています。
生成AIの特徴としては、外部の基盤モデルに頼ることが多い点、事実に基づかないもっともらしい情報を出す「ハルシネーション」、用途を絞りにくい汎用性、検索拡張生成(RAG)などによる外部システムとの連携、エージェント機能のような動作の自律性が挙げられています。そのうえで、評価と運用の課題は「出力の不確定性及び変動」と「出力妥当性の評価」に集約されるとしています。妥当性には、医学的な事実に合っているかという「情報としての正しさ」と、患者の背景や使う人の意図に照らして適切かという「文脈としての正しさ」の両方が含まれます。
「値」ではなく「性質」を確かめる
製品性能の評価で特に目を引くのは、「値」の一致にこだわらず、対象のふるまいが持つべき「性質(プロパティ)」を決めて確かめる考え方です。文書は「プロパティベースド・テスト」が有用だとしています。自動で作った幅広い入力のなかで性質が崩れる反例を探し、性質が保たれる範囲を統計的に示す方法です。
具体例も示されています。同じ意味の言い換えや表記の揺れを加えても出力の一貫性が保たれるか。症状などの条件を論理的に足したり反対にしたりしたとき、出力もそれに応じて妥当に変わるか。無関係な文や意図的なノイズを混ぜてもハルシネーションが起きないか。有害な要求を遠回しに言い換えても応じず、逆に適切な医学的質問を言い換えたときに過剰に拒否しないか、などです。
出力の判定方法としては、経験則から作った基準による自動のルールベース評価、医師などの専門家による評価、別の言語モデルに判定を任せる「LLM-as-a-Judge」評価が挙がっています。これらを適切に選ぶか組み合わせることが重要だとされています。既存のベンチマークは基礎能力の目安として使えますが、成績が臨床での適切さに直結するとは限りません。評価用の問題が学習データに混ざる「データリーケージ」で成績が高く見えるおそれもあると注意されています。
市販後も見続けることが前提に
出力が揺らぎ、外部のデータや基盤モデルの更新にも影響されるため、文書は市販前の評価だけで有効性と安全性を十分に保証する枠組みは当てはめにくいとしています。製品の一生を通じて品質とリスクを一貫して管理する「トータルライフサイクルアプローチ」を重視し、市販後は性能、有害事象、ハルシネーションの発生状況などの情報を集め、定期的に報告することが求められるであろうと述べています。エージェント的に動く場合は、実行したログなどを監視することも想定されています。
使う人の側の課題にも多くの紙幅が割かれています。AIの出力を人の判断より客観的で正確だと受け取りやすい「自動化バイアス」や、出力に頼りすぎて専門的な技能が衰える「デスキリング」です。対策としては、出力の根拠となる情報を示す機能、目的外の使い方を拒む仕組み(ガードレール)、チェックリストや研修によるリテラシー支援が望ましいとされています。
医師・開発者としての見方
「値の一致にこだわらず性質を測る」という方針には、開発の現場から強く共感しています。当社が罫線のある健診票を視覚言語モデルに読ませる試作をした際、ページ全体を渡すとそのページの最初の表しか読まず、空欄の行が続くと行を飛ばして下の値を繰り上げることがありました。どちらもエラーを出しません。しかも読まれなかった行は採点の分母に入らないため、値の一致率だけを見ているとむしろ数字が良く見えてしまいました。
そこで、空欄も分母に入れて採点し、「空欄なのに値を作った」ものを別に数えて、それがあればその時点で不合格とする形に変えました。これは「空欄は空欄のまま返す」という性質を確かめていることになります。審査ポイント案が挙げる言い換えやノイズへの強さも、同じ発想だと受け止めています。
判定方法の組み合わせについても考えがあります。生成AIが書いた文章を同じ系統の生成AIだけで点検すると、作る側と確かめる側が実質的に同じになり、同じ誤りを通してしまうおそれがあります。根拠文書との機械的な照合や専門家の確認を組み合わせることには、この重なりを崩す意味があると考えています。
企業の健康管理・医療現場への示唆
この審査ポイントは医療機器に該当する製品が前提です。ただ、面談記録の下書きや問い合わせ対応など、医療機器ではない業務支援AIを選んで運用する場面でも、考え方は借りられると考えています。
- 言い換えて試す: 同じ内容を表現を変えて入力し、結論がぶれないかを確かめる。
- 空欄を埋めないかを見る: 情報がない項目に、もっともらしい値や記述を作らないかを確かめる。
- 根拠が示されるかを確認する: 出力の出典や、推測による部分かどうかが分かるかを、導入前に提供元へ尋ねる。
- 運用後も記録を残す: 誤りや想定外の出力の事例を集め、更新のたびに同じ試験をやり直せるようにする。
- 使う人の受け止め方に備える: 自動化バイアスやデスキリングを前提に、最終判断は人が行う手順と研修を用意する。
文書自体がドラフトであり、今後の意見や審査実績を踏まえて改められる見込みです。動向を追いつつ、自社や自院で使うAIを「何を、どう測るか」から見直すきっかけにしてはいかがでしょうか。医療AIの評価設計や、業務支援AIの導入前の点検についても、お気軽にご相談ください。
この記事は note でも発信しています。
この記事の作り方 代表 宮本の知見と公開資料をもとに生成AIで作成し、決まった規則による自動の点検と、別のAIによる査読を経て公開しています。誤りにお気づきの場合はお問い合わせからお知らせください。