テックブログ
医療AIの日付の誤りを、AIの外で消す — 音声で「9月」が「5月」になるとき
目次
診察の記録に書かれる次回予約の日付は、そのまま患者さんの受診日になります。カルテに転記され、受付での予約に使われ、ご本人にお伝えされる。ここが1文字ずれると、その方は次に来る日を失います。
AIが作る記録を長く見ていると、この日付だけが独特の壊れ方をすることに気づきます。文章はよく書けているのに、日付だけが合わない。しかも間違え方に規則性があります。
AIが壊すのは、聞いた値ではなくカレンダー由来の値
記録に出てくる値を分けて見ると、はっきり二手に分かれます。
| 種類 | 例 | 壊れるか |
|---|---|---|
| 会話でそのまま言われた値 | 血圧の数値、薬の名前、服用回数、患者さんの訴え | ほぼ壊れない |
| 会話の言葉から計算して出す値 | 「4週間後」を日付に直す、日付から曜日を出す、年をまたぐ判定 | ここだけ壊れる |
AIは聞いた言葉を書き写すのは得意です。一方で、暦を数えるのは確率で次の語を選ぶ仕組みと相性が悪い。「9月3日の4週間後」を毎回正しく数えられる保証はどこにもありません。曜日はさらに悪く、日付から計算して書き足させると、暦と食い違ったものが混ざります。
この時点で1つ決められます。日付と曜日は、AIに計算させる値ではない。
「くがつ」が「ごがつ」になる — 実在する語どうしなので辞書では直せない
もう一段まえ、文字起こしにも原因がありました。日本語の月名は、音が近いものが隣り合っています。
薬剤名の聞き間違いなら、医療用語の辞書に載せて直せます。ところが月名は、取り違えた先も正しい日本語です。「ごがつ」を「くがつ」に置き換える辞書を入れれば、本当に5月の話をしている記録が全部壊れます。辞書は使えません。
同時に、うれしい発見もありました。「4週間後」「1ヶ月後」という言い方は、音で化けません。「よんしゅうかんご」と近い音の別の期間はないからです。会話の中に、壊れない手がかりが最初から入っている。
日付の計算を、AIから取り上げる
そこで、記録を作る流れの真ん中に一段はさみました。
はさんだのは、文字起こしを読んで次回受診日を1つに決める純粋な関数です。外部の呼び出しを持たず、患者さんの情報も持ちません。決め方は、壊れにくいものから順に見ます。
| 優先順位 | 手がかり | なぜこの順か |
|---|---|---|
| 1 | 「4週間後」「1ヶ月後」などの相対表現 | 音で化けない。診察日から数えれば必ず正しい日付になる |
| 2 | 「16日の水曜日」のように曜日が添えられた日付 | 暦と照らせば月を復元できる。曜日が合う月は限られる |
| 3 | 「9月7日」という明示された日付 | 音で化けうるので最後。しかも次回予約の文脈にあるものだけ |
そして決まった日付を、AIへの指示の末尾にもう一度書きます。 ここは実際に手戻りした箇所です。はじめは患者情報のブロックにだけ入れていたのですが、数千字の文字起こしに埋もれて守られませんでした。指示は、置いた場所で効き方が変わります。
「1ヶ月分出しときますね」は、次回予約ではない
この設計にはひとつ落とし穴があって、実際に踏みました。
「1ヶ月」という言葉は、会話の中で2つの意味で出てきます。
| 会話 | 意味 | 拾うか |
|---|---|---|
| 「また1ヶ月後に来てください」 | 次回受診の間隔 | 拾う |
| 「お薬は1ヶ月分出しときますね」 | 処方の量 | 拾わない |
| 「1ヶ月前から続いていて」 | 過去のできごと | 拾わない |
| 「この薬は2週間後から効いてきます」 | 薬の効きはじめ | 拾わない |
同じ「1ヶ月」でも、直後に「分」が付けば処方の話です。ここを分けずに拾っていたときは、次回受診の合意がひとことも無い会話から、存在しない予約日が確定済みとして記録に入りました。 しかも文章としては自然なので、読んでも気づけません。
守りを足すときに大事なのは、「その守りが成立しない条件」を1つ考えることでした。 前後の1語を見るだけで分かれるなら、コードで分ければいい。人に確認を求める必要はありません。
注意書きは「出たら必ず直すもの」だけにする
画面側にも、日付を確かめてもらう案内を用意しました。ただし出す条件をかなり絞りました。
| 出す | 出さない |
|---|---|
| 診察日より前・当日の日付(次回が過去になることはない) | 日付が書かれていない(会話に出なければ自然なこと) |
| 存在しない日付(2月30日など) | 「4週間後」だけで日付が無い |
| 曜日が暦と食い違っている | 記録と会話概要で日付が違う |
最初は「気づけるものは全部出す」形にしていました。実際に流してみると、案内が出た記録のほとんどはAIの誤りではありませんでした。 会話に日付が一度も出てこない診察は珍しくないからです。
誤りでないものに印が付き続けると、印そのものが読まれなくなります。 出すのは「出たら必ず直すもの」だけにして、本文の背景に色を付けるのもやめました。色が付いても直し方は分かりませんし、正しい記録に付いた色は本文を触るまで消えません。案内は本文には書き込まないので、SOAP記録を電子カルテへコピーする内容も変わりません。
まとめ — AIに任せる範囲を、値の種類で線引きする
- 聞いた値はAIに書かせる。数えて出す値はコードで決める
- 音で化ける語と化けない語を分け、化けないほうを手がかりにする
- 決めた値は、指示の末尾にもう一度書く
- 気づいたことを全部出さない。出たら必ず直すものだけを出す
「口頭で次回を決めて、あとからカレンダーを見て予約を取っている」「AIの下書きの日付だけ毎回見直している」——そうしたひと手間は、たいてい設計で消せます。MENTRAは精神科・心療内科に特化した医療AIとして、診察・看護記録・面談記録・カンファレンス・福祉訪問記録の5種類の記録を、現場の操作を増やさない形で作っています。気になる工程があれば、ご相談ください。実際の会話でどう書けるかをお見せできます。
よくあるご質問
文字起こしの精度を上げれば、日付の問題は解けますか
一部は良くなりますが、根は残ります。「くがつ」と「ごがつ」はどちらも正しい日本語なので、聞き取りが少し良くなっても取り違える余地が消えないためです。精度を上げる取り組みとは別に、日付を音に頼らない経路で決められるようにしています。
会話に日付がひとことも出てこなかった記録は、どうなりますか
空のままにします。次回の話が出ない診察は珍しくないので、無いこと自体は自然な状態として扱います。埋めてしまうと決まった予定のように見えるので、空のほうが「まだ決めていない」と次に読む人に伝わります。
同じ線引きは、日付以外の値にも当てはまりますか
当てはまります。分け方は「会話でそのまま言われた値か、数えて出す値か」なので、期間の長さのように計算で決まるものは同じくコードの側に置く方針です。AIには、決まった値を自然な文に収める仕事が残ります。
