WithDrAIでは、地域のクリニックグループで、患者さん向けのLINE配信文をAIで下書きする仕組みを運用しています。季節の健康情報や受診のご案内を、毎週、複数の院の分まで用意するのは、医師やスタッフにとって小さくない負担だからです。
流れはシンプルです。毎週、AIがテーマ候補を3つ出し、担当者が1つを選ぶと、院ごとの配信文の下書きが届きます。最後に人が確認してから配信する、という運用です。
この仕組みを作るときに一番気をつけたのは、AIがもっともらしい誤りを書くことでした。そして、その対策を「AIへのお願い」ではなく「プログラムによる点検」で行うことにしました。
点検1：リンクは、院のサイトに実在するページからしか選ばせない
配信文には「詳しくはこちら」と院のページへのリンクを入れたくなります。ところがAIに自由に書かせると、ありそうで実在しないURLを作ることがあります。
そこで、院のウェブサイトの一覧（サイトマップ）から「URLとページの題名」の対応表を自動で作り、その表の中からしか選べないようにしました。表にないURLが入っていたら、その下書きは不合格です。URLの文字列だけでは中身が分からないページも多いため、題名とセットで渡すことが大事でした。
点検2：料金は、その院の公開情報だけを出典にする
自費診療の料金は、院ごとに異なります。AIは、ある院の料金を別の院の文章にそのまま流用することがあります。
そこで、料金はその院が公開している情報や、院から提供された資料に書かれた金額だけを許可し、それ以外の金額が書かれていたら不合格にしています。
点検3：医療広告として問題になりやすい表現は、コードで検査する
医療機関の情報発信には、医療広告ガイドラインの考え方が関わります。「必ず治る」と受け取れる表現、効果を誇張する表現、治療の内容や効果に関する患者さんの体験談などは、問題になりやすい代表例です。
これもAIに「使わないで」と頼むだけでは防げません。禁止したい言い回しの一覧をプログラムで照合し、引っかかった下書きは作り直させます。3回作り直しても通らない場合は、握りつぶさずに警告をつけて人に渡します。
AIは、存在しない条文も作る
下書きとは別に、もう一つのAIに完成した文章だけを読ませて評価させる「盲検レビュー」も入れています。書いたAIと評価するAIを分けるためです。
ところが、そのレビュー役のAIが、指摘の根拠として**実在しない「医療広告ガイドライン第◯条第◯号」**を挙げたことがありました。文章としてはとても説得力があります。それ以来、レビューでは条文番号を書かせないようにしています。
AIの書いたものをAIが点検するだけでは、同じ種類の誤りが残る。外部の正しい情報（実在するページの一覧、公開されている料金）と照合することが、誤りを確実に止める方法でした。
最後は、人が読む
点検をすべて通った下書きでも、配信の前には必ず人が読みます。点検で防げるのは「機械で判定できる誤り」までで、患者さんにとって伝わりやすいか、いまの時期にふさわしいかは、現場の人にしか判断できないからです。
AIに任せるのは初稿づくりと機械的な点検まで。そこから先を人が担う形にすることで、スタッフの負担を減らしながら、患者さんに届く情報の質を守れると考えています。
クリニックの情報発信や記録業務にAIを取り入れたい方は、お気軽にご相談ください。
この記事は note でも発信しています。