テックブログ
医療AIのプロンプト流出対策は、ブラウザに渡さない設計から始まる
目次
医療AIのプロンプト流出対策というと、まず思い浮かぶのは、チャットでAIに指示文を答えさせてしまう型です。生成AIのリスクをまとめた OWASP の一覧(2025年版)にも、「システムプロンプトの漏洩」として1項目が立っています(OWASP LLM07:2025)。
ただ、指示文が外に出る道はもう一つあります。指示文や判定の規則を、ブラウザに届く場所に置いてしまうことです。こちらはAIに聞く必要すらなく、届いたものを読めば済みます。この記事では、精神科の記録を作るAI(AIカルテなど)の指示文と規則を、MENTRA がどこに置き、どう戻らないようにしているかを、実装と検査の実測で紹介します。守る仕組みの全体はセキュリティのページにまとめています。
先に、言葉の整理
| 言葉 | どういうものか |
|---|---|
| プロンプト(指示文) | AIに「どんな形で、何を書くか」を伝える文章。記録の様式や書き方の決まりが入る |
| 配布物(バンドル) | ブラウザで画面を動かすために、利用者の端末へ送られる JavaScript のファイル一式 |
| フロントエンド | 利用者の端末のブラウザで動く側。配布物はここで動く |
| ソースマップ | 圧縮した配布物を、元のソースコードの行や名前に対応づけるファイル。元のソース本文を含めることもできる |
| 行レベルセキュリティ | データベースの表の行ごとに、誰が読めるかを決める仕組み。病院ごとのデータの分離に使う |
| 列単位の権限 | 同じ表の中でも、列ごとに読める・読めないを分ける権限 |
| 変異注入 | 検査をわざと壊した写しで流し、その検査が本当に赤くなるかを確かめる方法 |
| 陰性対照 | 壊していない写し。こちらまで赤くなるなら、検査が何でも赤にしているだけだと分かる |
ブラウザから届く場所は、利用者の手元にあるのと同じ
Webの医療システムで、指示文や規則が利用者の手元に届く経路は、大きく2つあります。1つは配布物です。画面を開いた人の端末には、画面を動かす JavaScript が丸ごと届きます。もう1つは、ログインしたアカウントで読めるデータベースの表です。行レベルセキュリティで病院ごとに分けていても、その病院のアカウントからは読めます。
GitGuardian の解説は、利用者の端末で動くコードは利用者がいつでも調べられる、だからフロントエンドに秘密情報を埋め込まず、サーバ側に持たせる、と書いています(BFF パターンの解説)。これは鍵についての解説ですが、MENTRA は同じ考え方を、指示文や判定の規則にも当てました。置き場所を、届く側と届かない側の2つに分けて考えました。
| 置き場所 | 誰が読めるか | 向いているもの |
|---|---|---|
| 配る JavaScript | 画面を開いた人なら誰でも(開発者ツールやファイルの保存で) | 画面の見た目、入力しているその場で出す案内、患者さんに見せる設問文 |
| アカウントで読める表 | その病院のアカウント(行レベルセキュリティで病院ごとに分かれる) | 病院の業務データ、病院ごとの設定 |
| サーバの中 | サーバの処理だけ(鍵はサーバの外へ出さない) | AIへの指示文、画面に出さない判定、整形の規則 |
配布物には、開発のときに出していた記録も乗ります。画面の部品が出す開発用のログは、開発者ツールを開けば誰でも読めるからです。MENTRA では、本番の配布物では開発用の詳しい記録を受け付けない1行を、ログの部品の入口に置いています。この記事のコードは実装からの抜粋で、社内向けの注記は言い換えています。
constructor() {
const envLevel = import.meta.env.VITE_LOG_LEVEL?.toUpperCase() || 'ERROR';
this.logLevel = this.isValidLevel(envLevel) ? envLevel : 'ERROR';
// 本番ビルドでは DEBUG/INFO を受け付けない(巻き戻りの防止。専用の検査が見る)
if (import.meta.env.PROD && (this.logLevel === 'DEBUG' || this.logLevel === 'INFO')) this.logLevel = 'ERROR';
}設定の値を書き間違えても、本番では詳しい記録が出ません。この1行が消えたり、条件が反転したりすると、専用の検査が赤になります。
指示文と規則はサーバに置き、画面には結果の値だけを返す
MENTRA では、記録の下書きを作るAIへの指示文を、サーバの処理だけが読める場所に置いています。病院のアカウントからも読めません。記録を作るときは、サーバから委託先のAIサービスへ指示文と会話を渡し、できた下書きを画面へ返します。画面は録音や入力を送り、返ってきた下書きを表示するだけです。
規則も同じ考え方で、画面に出さない判定の一部を、配る画面から外しました。入力しているその場で知らせる判定は、待たせないために画面に残し、画面に出さない分だけを配らない場所へ移しています。移すときにいちばん避けたいのは、画面に出ている判定まで変わってしまうことです。そこで、移す前の版をそのまま凍結して残し、移した後の版と、同じ入力で結果が一致するかを総当たりで比べています。
// 当たり得ない比較になっていないこと(指摘が 1 件も出ない入力ばかりだと、壊れても緑のまま)
assert.ok(n > 100000, `比べた件数 ${n}`);
assert.ok(full > n / 2, `全種の指摘 ${full}`);
assert.ok(banner > n / 4, `帯の指摘 ${banner}`);比べた件数が少なすぎる、指摘がほとんど出ない入力ばかり、という比べ方では、中身が壊れても一致してしまいます。だから件数と指摘の数にも下限を置いています。2026年11月7日に流した結果は次のとおりです。
| 比べたもの | 数(2026-11-07 実測) |
|---|---|
| 比べた入力 | 746,924 通り |
| 画面に出す判定の指摘 | 628,468 件 |
| 画面に出さない分も含めた全種の指摘 | 1,761,403 件 |
| 移す前と後で食い違った件数 | 0 件 |
| 1回の比較にかかった時間 | 約28秒 |
この比較は、毎回の自動検査で流しています。判定をわざと壊した写しでも確かめ、7種の壊し方すべてで赤になりました。
置いたものが戻ってこないように、機械で止める
一度外しても、次の改修で戻ってくることがあります。便利な部品を画面から直接読み込んだ、新しい表を作って権限をいつもどおりに付けた、という形です。人の注意だけに頼ると、いつか通ってしまいます。そこで2つの関所を置きました。
1つ目は、ビルドのたびに配布物そのものを検査することです。ソースマップのファイル、ソースマップへの参照、配ってはいけない語、ほかの環境の接続先、開発用の出力の数を見ます。ソースマップを本番に公開すると、元のコードの名前や構造が読める形で手元に届くため、本番と同じ設定でビルドした配布物で、0件であることを毎回確かめています。
for (const file of files) {
if (extname(file) === '.map') {
findings.push({ file, label: 'ソースマップ(.map)が dist に出ている(元のソースが丸ごと読める)' });
}
// …(このあと、ファイルの中身に配ってはいけない語や参照が無いかを見る)
}2つ目は、新しい表やサーバの処理を足したら、台帳に分類を書くことです。「サーバだけが読む」「病院の業務データ」などの分類が書かれていない、サーバだけが読む表に病院のアカウントからの読み取りを付けた、画面のコードがサーバの規則を直接読み込んだ、といった形を検査が赤にします。分類を考えずに作る、という道そのものを無くすためです。
検査は、置いただけでは効いているか分かりません。壊した写しを1つずつ流し、狙った検査が赤になるかを確かめました。
| 確かめたこと | 数 | 結果(2026-11-07 実測) |
|---|---|---|
| 配布物の検査など5本を、1か所ずつ壊した写しで流す | 31種 | 31種すべてで、狙った1本だけが赤 |
| 検査の対象が空・少なすぎる写しで流す | 4種 | 4種すべて赤(未検査を合格にしない) |
| 分類の台帳を見る検査を、1か所ずつ壊した写しで流す | 31種 | 31種すべて赤 |
| 壊していない写し・赤にしてはいけない写し(陰性対照) | 7回 | 7回すべて緑 |
「狙った1本だけが赤」まで見るのは、別の検査が別の理由で赤になっても、合格に見えてしまうからです。
患者情報を持たずに「画面が開かれた」を残すには
置き場所の設計とあわせて、画面がどう使われているかを、あとから振り返れるようにしました。職員が画面を開いた・一覧を読み直した、を1行ずつ残します。残すのは病院・時刻・画面の名前・種類だけで、患者さんや記録を指す値は送らず、記録する表にもその欄を作っていません。
厚生労働省の「医療情報システムの安全管理に関するガイドライン 第7.0版」のシステム運用編は、アクセスログはそれ自体に個人情報が含まれている可能性があるため、保護が必須だとしています(システム運用編 PDF)。今回の記録は、電子カルテのアクセスログとは別の目的で置くもので、最初から患者さんの情報を持たない形にしました。持たない情報は、漏れることもありません。
作ってみると、1回の操作で同じ記録が2〜4行入ることが分かりました。開発時の二重実行と、患者さんを開き直したときに画面の部品が作り直され、部品ごとに持っていた「記録済み」の覚え書きが消える分です。部品の中の覚え書きでは作り直しに負けるので、ページを読み込んでいる間だけ生きる場所で止めています。
/** 同じ画面名を続けて記録しない間隔(ミリ秒) */
const DEDUPE_WINDOW_MS = 1000;
const lastMarkedAt = new Map<string, number>();
/** 直近 DEDUPE_WINDOW_MS 以内に同じ画面名・種類を記録していれば true(記録するなら時刻を更新する) */
export function shouldSkipDuplicateMark(screen: string, kind: 'tab' | 'list', now: number = Date.now()): boolean {
const key = `${kind}:${screen}`;
const last = lastMarkedAt.get(key);
if (last !== undefined && now - last < DEDUPE_WINDOW_MS) return true;
lastMarkedAt.set(key, now);
return false;
}記録は、人が開いた・読み直したときだけ呼び、画面の自動の再取得では呼びません。記録に失敗しても画面は止めず、失敗したことだけを残します。こうして集計し、普段と違う使われ方がないかを確かめられるようにしています。
いまの使われ方を伺い、これまでとこれからを整理しました
生成AIや自動化の道具が誰でも使えるようになり、指示文や規則を手元に届けない設計が、預かる側の守りとして要ると考えました。守り方を決める前に確かめたのは、病院で実際にどう使われているかです。精神科では、訪問看護や福祉の訪問先、在宅の支援の合間にも記録を書きます。使える場所や同時に使える台数を絞る方法は、こうした使い方を止めてしまうので選びませんでした。そのうえで、これまでとこれからを次のように整理しました。
| これまで | これから | |
|---|---|---|
| 職員の操作 | いつもの手順で使う | 変わらない(操作の手順はそのまま) |
| AIへの指示文 | サーバに置き、記録の下書きを作るときに使う | 病院のアカウントからも読めないことを、検査で確かめ続ける |
| 画面に出さない判定 | 記録の確認に使う | 一部を配らない場所へ移し、移す前と同じ結果になることを毎回比べる |
| 配布物 | 更新のたびに部品の脆弱性と鍵の混入を検査 | ソースマップ・配ってはいけない語・開発用の出力の数まで毎回検査 |
| 新しい表・処理 | 病院ごとのデータの分離をかけて作る | 加えて、台帳に分類を書かないと検査が止める |
| 画面を開いたこと | 職員の手間なし | 時刻と画面の名前だけを、患者さんの情報なしで記録 |
自院のシステムで確かめるには
AIへの指示文や判定の決まりがどこに置かれているか分からない。委託先に聞いても、置き場所までは答えが返ってこない。配る画面に何が入っているかを、確かめたことがない。医療機関で情報システムを担当されている方なら、思い当たる場面があるかもしれません。MENTRA では今回の守りを、職員の皆さまの操作を1つも増やさずに入れました。いまの構成の棚卸しだけでも構いません。自院の流れに合わせたい場合も、まずいまの流れを伺い、整理するところからご一緒します。守る仕組みの一覧はセキュリティのページに、ご相談はお問い合わせから承ります。
参考
よくあるご質問
難読化すれば、配るJSに規則を残してもよいのではないですか
難読化は読む手間を増やしますが、ブラウザで動く以上、中身は利用者の端末に届いています。GitGuardian の解説も、利用者の端末で動くコードは利用者がいつでも調べられる、と書いています。端末に置く必要のないものは、配らない置き場所へ移すほうが確実です。
指示文をサーバに置けば、チャットで聞き出される心配は無くなりますか
置き場所の設計と、聞き出しへの備えは別の層です。OWASP は、システムプロンプトを秘密として扱わないこと、鍵や接続情報のような機微な値を指示文に入れないこと、モデルの外に確かめる仕組みを置くことを勧めています。これは指示文が漏れうる前提での備えです。置き場所の設計はそれとは別の層で、指示文をそもそも利用者の手元に届けないことを受け持ちます。
画面の記録に、患者さんの情報を入れないのはなぜですか
目的が「どの画面がどのくらい開かれているか」を見ることで、患者さんの情報が要らないからです。厚生労働省のガイドラインも、アクセスログはそれ自体に個人情報が含まれうるため保護が必須だとしています。最初から持たない形にすれば、万一のときの影響も小さくなります。記録は、病院のアカウントからは読めない場所に置いています。
