医療AIの出力が途中で切れるとき、何が起きているのか

AIが作った記録が、文の途中で終わっていることがあります。読んでいくと最後の段落が不自然に切れていて、書きかけのように見える。

これは書き損じではなく、AIの出力に上限があるために起きます。医療の記録では長い会話を扱うので、他の用途より起きやすい現象です。

なぜ、途中で終わるのか

AIモデルには、1回の応答で生成できる長さの上限があります。この上限に達すると、文の途中でも生成が止まります。

厄介なのは、止まったことがエラーとして返ってこない点です。処理としては「正常に終了した」扱いになり、途中まで書かれた文章が結果として返ってきます。 何もしなければ、そのまま記録として保存されます。

読む側から見ると、AIが手を抜いたようにも、会話が短かったようにも見えます。原因が見えないまま、記録の品質が落ちます。

これは長い入力ほど起きます。そして精神科の記録は、入力が長くなる領域です。

会話が長いほど、要約の材料が増え、出力も長くなります。丁寧に話を聴いた回ほど途切れるという、直感に反する挙動になります。

最初に思いつく対処は、出力の上限を引き上げることです。ただしこれは根本的な解決になりません。

3つ目が本質です。会話の長さは現場が決めるもので、こちらで上限を引ける性質のものではありません。

MENTRAが採ったのは、出力の形を先に固定する方法です。

記録の様式はあらかじめ決まっています。看護記録ならバイタル、全般状態、日常生活の様子、関わりの内容。この枠を先に与えて、それぞれの枠を埋めさせる形にすると、出力の長さが会話の長さに比例しなくなります。

自由に書かせると、長い会話ほど長い文章が返ってきます。枠を決めておくと、長い会話は枠の中身が濃くなる方向に働きます。ここが分かれ目です。

構造を決めても、上限に達する可能性はゼロになりません。だから達したことを検知して、それが分かるようにする必要があります。

MENTRAでは、生成が上限で止まった場合にそれを検知し、途中の文章をそのまま記録として確定させないようにしています。「静かに壊れる」のがいちばん悪いので、止まったなら止まったと分かる状態にします。

医療の記録では、不完全な記録が完全なもののように保存されることが最も避けたい事態です。足りないと分かっている記録は補えますが、足りないと気づかない記録は補えません。

あわせて、長い録音は分割して並行に処理する作りにしています。1時間近い訪問看護の会話も、2時間規模の会議も、この経路を通ります。

分割すると、1回あたりの入力が短くなるので、出力が上限に達する確率そのものが下がります。上限との戦い方は、上限を上げることではなく、上限に近づかない構造を作ることでした。

20分を超える訪問看護の会話も、数分で記録の下書きになります。

打ち切りへの対処を並べると、それぞれ効く場所が違います。

対処	何が変わるか
出力の上限を引き上げる	天井があるので、それを超える会話は必ず出てくる。生成にかかる時間も延びる
出力の枠を先に決める	出力の長さが会話の長さに比例しなくなる。長い会話は枠の中身が濃くなる方向に働く
長い録音を分けて並行に処理する	1回あたりの入力が短くなり、上限に近づく確率そのものが下がる
上限で止まったことを検知する	途中まで書かれた文章が、完成した記録として確定しなくなる

短い会話しか扱えない道具は、結局「短く話す」という運用を現場に強います。それは記録のための我慢であって、本末転倒です。

AI看護記録に仕組みをまとめています。貴院で扱われる会話の長さや、記録の様式に合わせられるかは、実際の運用をお聞かせいただければ具体的にお答えできます。現状の棚卸しだけでも歓迎です。