AI薬歴は思考を止めた瞬間に危うくなる。ツールとして使いこなす薬剤師の心構え

来月本稼働するAI薬歴と、その優れた機能

00:05 から再生する

薬剤師のたいぞーさんは、連日AI活用の視点から薬局や薬剤師の関わり方について話しています。この回もその流れで、AIについて考えていることを語っています。

導入予定のAI薬歴はまだ本稼働には至っておらず、デモの様子を確認したうえで来月からの本稼働に向けて準備を進めている段階だといいます。

デモを見た印象として、その機能はとても優れていたと話します。録音した音声をもとに話者を仕分け、内容をSOAPで整理して、きれいな薬歴に仕上げてくれるためです。

AIは「考えている」のではなく「次の文字を計算している」

01:35 から再生する

AIが生成した文章を見ていると、薬剤師の専門知識を使って患者情報を読み解き、思考して文字を出力しているかのように感じられると、たいぞーさんは言います。

まるで意思を持った何かが文章を作り出しているかのような錯覚を覚える、という表現をしています。

ただし、少なくとも文章を生成するAIの仕組みはそうではないと指摘します。AI自身が何かを考えているのではなく、次にどんな文字を並べるのがよいかを計算して出力しているという説明です。

世の中の様々な情報源をもとに、いわば平均値を取るような形で文字を並べているのが特徴ではないか、と話します。

誰も思考しない状態という落とし穴

04:11 から再生する

平均値を取る性質上、AIのアセスメントが大きく外れることは少ないと、たいぞーさんは述べます。

一方で本当に大切なのは、内容の正しさだけではないと言います。自分がこの患者を見立てて考えた内容が、文章として出力されているかどうかを見極めることだといいます。

思考を止めてAIにすべて委ねると、AIも思考しない、薬剤師も思考しない、誰も思考しない状態で患者を見ることになると警告します。

そうなると治療方針を誤ったり、薬剤師が患者を見ているようで実は誰も見ていない、という状態が生まれかねないと考えられています。

だからこそ、患者対応の前から思考を始め、対応しながら考え、AIの出力を自分の考えと照らし合わせて直すべきところを直し、最後は自分の文章として記録を残すことが重要だと語ります。

楽な道に飲み込まれる危うさ

05:13 から再生する

何も考えずに仕事が終わっていくのは、正直とても楽ちんなことだと、たいぞーさんは認めます。

しかし、その楽ちんこそが厄介だと言います。人は弱い生き物であり、目の前に楽な選択肢があると、その先が地獄への道でもつい進んでしまうものではないか、という見方です。

自分自身に置き換えても、健康にいいと分かっていながら、つい味の濃いおいしいものを選び、運動のしんどさから逃げる言い訳に進んでしまう自分がいる、と例を挙げます。

同じように、AIが生成するきれいな文章にすべてを委ねられる感覚に飲み込まれてしまうと、とても危険なリスクを伴うと話します。

何のために導入するのかを問い直す

06:24 から再生する

たいぞーさんは、AIを薬歴システムに導入するだけで終わらせないことが大切だと語ります。

そもそもこれは何のために使うのか、取り入れることで何を改善するのか、業務が効率化して楽になることは本当に達成したい目的なのか、と問い直します。

導入の意図や目的、そして薬剤師としての役割を改めて考え直すきっかけにしなければ、大きく失敗する要素にもなりかねないという危機感を示します。

本格的な運用に入る前に、いろいろなことを考え、スタッフとも共有しながら、AIを上手に使える体制と薬剤師の役割の見直しを行いたいと述べています。

まとめ

AI薬歴は音声を整理してきれいな記録を作る優れたツールですが、それは薬剤師が思考しているという意味ではありません。たいぞーさんは、便利さに委ねきる前に、思考を止めないことと導入の目的を問い直すことの大切さを語りました。