テックブログ

医療AIの日付の誤りを、AIの外で消す — 音声で「9月」が「5月」になるとき

目次
  1. AIが壊すのは、聞いた値ではなくカレンダー由来の値
  2. 「くがつ」が「ごがつ」になる — 実在する語どうしなので辞書では直せない
  3. 日付の計算を、AIから取り上げる
  4. 「1ヶ月分出しときますね」は、次回予約ではない
  5. 注意書きは「出たら必ず直すもの」だけにする
  6. まとめ — AIに任せる範囲を、値の種類で線引きする

診察の記録に書かれる次回予約の日付は、そのまま患者さんの受診日になります。カルテに転記され、受付での予約に使われ、ご本人にお伝えされる。ここが1文字ずれると、その方は次に来る日を失います。

AIが作る記録を長く見ていると、この日付だけが独特の壊れ方をすることに気づきます。文章はよく書けているのに、日付だけが合わない。しかも間違え方に規則性があります。

AIが壊すのは、聞いた値ではなくカレンダー由来の値

記録に出てくる値を分けて見ると、はっきり二手に分かれます。

種類 例 壊れるか
会話でそのまま言われた値 血圧の数値、薬の名前、服用回数、患者さんの訴え ほぼ壊れない
会話の言葉から計算して出す値 「4週間後」を日付に直す、日付から曜日を出す、年をまたぐ判定 ここだけ壊れる

AIは聞いた言葉を書き写すのは得意です。一方で、暦を数えるのは確率で次の語を選ぶ仕組みと相性が悪い。「9月3日の4週間後」を毎回正しく数えられる保証はどこにもありません。曜日はさらに悪く、日付から計算して書き足させると、暦と食い違ったものが混ざります。

この時点で1つ決められます。日付と曜日は、AIに計算させる値ではない。

「くがつ」が「ごがつ」になる — 実在する語どうしなので辞書では直せない

もう一段まえ、文字起こしにも原因がありました。日本語の月名は、音が近いものが隣り合っています。

どちらも実在する語なので、片方を「誤り」として辞書に登録できない くがつ ごがつ 9月 → 5月 しちがつ しがつ 7月 → 4月 いちがつ しちがつ 1月 → 7月 いっぽう「4週間後」「1ヶ月後」は、音で化けない
月名は音の近い語が隣り合っている。どちらも日本語として正しいので、置換辞書で片方を潰すと正しい記録まで壊れる

薬剤名の聞き間違いなら、医療用語の辞書に載せて直せます。ところが月名は、取り違えた先も正しい日本語です。「ごがつ」を「くがつ」に置き換える辞書を入れれば、本当に5月の話をしている記録が全部壊れます。辞書は使えません。

同時に、うれしい発見もありました。「4週間後」「1ヶ月後」という言い方は、音で化けません。「よんしゅうかんご」と近い音の別の期間はないからです。会話の中に、壊れない手がかりが最初から入っている。

日付の計算を、AIから取り上げる

そこで、記録を作る流れの真ん中に一段はさみました。

文字起こし AIが作る 記録 これまで — 日付もAIが数えていた 文字起こし コードで確定 AIが文章を作る 記録 いま — 日付は決まった値として渡し、AIには文章だけを書かせる
変わったのは「誰が日付を決めるか」の1点だけ。AIの仕事は、決まった日付を自然な文に収めることになった

はさんだのは、文字起こしを読んで次回受診日を1つに決める純粋な関数です。外部の呼び出しを持たず、患者さんの情報も持ちません。決め方は、壊れにくいものから順に見ます。

優先順位 手がかり なぜこの順か
1 「4週間後」「1ヶ月後」などの相対表現 音で化けない。診察日から数えれば必ず正しい日付になる
2 「16日の水曜日」のように曜日が添えられた日付 暦と照らせば月を復元できる。曜日が合う月は限られる
3 「9月7日」という明示された日付 音で化けうるので最後。しかも次回予約の文脈にあるものだけ

そして決まった日付を、AIへの指示の末尾にもう一度書きます。 ここは実際に手戻りした箇所です。はじめは患者情報のブロックにだけ入れていたのですが、数千字の文字起こしに埋もれて守られませんでした。指示は、置いた場所で効き方が変わります。

「1ヶ月分出しときますね」は、次回予約ではない

この設計にはひとつ落とし穴があって、実際に踏みました。

「1ヶ月」という言葉は、会話の中で2つの意味で出てきます。

会話 意味 拾うか
「また1ヶ月後に来てください」 次回受診の間隔 拾う
「お薬は1ヶ月分出しときますね」 処方の量 拾わない
「1ヶ月前から続いていて」 過去のできごと 拾わない
「この薬は2週間後から効いてきます」 薬の効きはじめ 拾わない

同じ「1ヶ月」でも、直後に「分」が付けば処方の話です。ここを分けずに拾っていたときは、次回受診の合意がひとことも無い会話から、存在しない予約日が確定済みとして記録に入りました。 しかも文章としては自然なので、読んでも気づけません。

守りを足すときに大事なのは、「その守りが成立しない条件」を1つ考えることでした。 前後の1語を見るだけで分かれるなら、コードで分ければいい。人に確認を求める必要はありません。

注意書きは「出たら必ず直すもの」だけにする

画面側にも、日付を確かめてもらう案内を用意しました。ただし出す条件をかなり絞りました。

出す 出さない
診察日より前・当日の日付(次回が過去になることはない) 日付が書かれていない(会話に出なければ自然なこと)
存在しない日付(2月30日など) 「4週間後」だけで日付が無い
曜日が暦と食い違っている 記録と会話概要で日付が違う

最初は「気づけるものは全部出す」形にしていました。実際に流してみると、案内が出た記録のほとんどはAIの誤りではありませんでした。 会話に日付が一度も出てこない診察は珍しくないからです。

誤りでないものに印が付き続けると、印そのものが読まれなくなります。 出すのは「出たら必ず直すもの」だけにして、本文の背景に色を付けるのもやめました。色が付いても直し方は分かりませんし、正しい記録に付いた色は本文を触るまで消えません。案内は本文には書き込まないので、SOAP記録を電子カルテへコピーする内容も変わりません。

まとめ — AIに任せる範囲を、値の種類で線引きする

  • 聞いた値はAIに書かせる。数えて出す値はコードで決める
  • 音で化ける語と化けない語を分け、化けないほうを手がかりにする
  • 決めた値は、指示の末尾にもう一度書く
  • 気づいたことを全部出さない。出たら必ず直すものだけを出す

「口頭で次回を決めて、あとからカレンダーを見て予約を取っている」「AIの下書きの日付だけ毎回見直している」——そうしたひと手間は、たいてい設計で消せます。MENTRAは精神科・心療内科に特化した医療AIとして、診察・看護記録・面談記録・カンファレンス・福祉訪問記録の5種類の記録を、現場の操作を増やさない形で作っています。気になる工程があれば、ご相談ください。実際の会話でどう書けるかをお見せできます。

よくあるご質問

文字起こしの精度を上げれば、日付の問題は解けますか

一部は良くなりますが、根は残ります。「くがつ」と「ごがつ」はどちらも正しい日本語なので、聞き取りが少し良くなっても取り違える余地が消えないためです。精度を上げる取り組みとは別に、日付を音に頼らない経路で決められるようにしています。

会話に日付がひとことも出てこなかった記録は、どうなりますか

空のままにします。次回の話が出ない診察は珍しくないので、無いこと自体は自然な状態として扱います。埋めてしまうと決まった予定のように見えるので、空のほうが「まだ決めていない」と次に読む人に伝わります。

同じ線引きは、日付以外の値にも当てはまりますか

当てはまります。分け方は「会話でそのまま言われた値か、数えて出す値か」なので、期間の長さのように計算で決まるものは同じくコードの側に置く方針です。AIには、決まった値を自然な文に収める仕事が残ります。

↑ このページの先頭へ

まずは、30分だけ話を聞かせてください。

今の記録の流れを伺うところからで大丈夫です。資料の準備は不要です。

精神科病院からメンタルクリニックまで、規模を問わず。院内の運用に合わせた調整もご相談ください。