AI薬歴に飲み込まれないために。後知恵バイアスと薬剤師の思考のタイミング

AI薬歴の凄さと、使い方次第という前提

00:57 から再生する

たいぞーさんは連日、AI薬歴の導入について感じたことを率直に語ってきました。今回はその中で新たに浮かんだテーマとして「後知恵バイアス」を取り上げます。

AI薬歴は、患者さんとのやり取りを録音し、たとえ些細なやり取りに終わっても、立派な薬歴の記載内容を仕上げてくれる優れた機能だと話されています。

一方で、使い方を上手にしないと、さまざまな問題や不具合を引き起こしたり、現場で思ったより活用されない状況にもなりかねないと指摘します。

AIは「心地よい文字列」を並べている

02:25 から再生する

前回の放送を踏まえ、たいぞーさんは、生成AIはそもそも何かを考えて文章を作っているわけではないと整理します。

AIは心地よい文字列を並べているというのが、文章生成AIの特徴だと話されています。

ただし、それはデタラメや嘘八百を並べるわけではなく、整合性の取れた内容が文字として並びます。だからこそ、きちんとしたアセスメントが記載されているように見える仕組みになっていると言います。

なぜ「あとで考える」ができなくなるのか

03:23 から再生する

これまでたいぞーさんは、AIが文章を生成する前に薬剤師がきちんと患者のことを考えておくことで、AIを上手に活用できると話してきました。

AIはアセスメントも含めた文章をすべて生成してきます。だからこそ、思考をその前の段階に持っていこうという考え方です。

では、AIが文章を生成した後に薬剤師が考える、という順番はどうか。たいぞーさんは、正直に言うと、それは多分できなくなる可能性が高いと見ています。

その理由の一つが、人間に起こってしまう「後知恵バイアス」という思考の偏りだと説明します。

後知恵バイアスとは何か

04:13 から再生する

後知恵バイアスとは、実際は自分が何も考えていなかったのに、生成された文章を見たときに、まるで今まで自分が考えていたかのように錯覚してしまうことだと説明されます。

たいぞーさんは、生成AIの文章がとても綺麗で、内容としても遜色ないからこそ、このバイアスは余計に起こりやすくなると話します。

人間の「性」としてのリスク

05:10 から再生する

後知恵バイアスにかかると、自分が考えていないということ自体に気づけなくなってしまう、とたいぞーさんは危惧します。

さらに、人間は静寂な生き物であり、簡単な道があれば、簡単にその道に進んでしまうと話します。

たいぞーさんは、これはそれほどのリスクを孕んだものだと考えています。

思考をどこに置くか

05:10 から再生する

だからこそ、AIの出力を見る前に自分で考えておくことが大切だと強調されます。事前に考えておけば、後知恵バイアスにかからず、AIと向き合えるという考え方です。

薬剤師が考えるタイミングを、できるだけ前の段階、AIの出力を見る前に置く。そのための業務プロセスや思考プロセスを組み立てた上で導入する必要があると話します。

この順番を組み立てないままだと、AI薬歴にすべて飲み込まれ、業務を破綻させかねないほどの危険性があると指摘されます。

道具としてのAI薬歴と、生まれる時間

05:59 から再生する

一方で、思考を前に持ってきてから使えば、薬歴を記載する時間は大幅に短縮されます。

その分の時間を、患者さんと向き合う時間や、薬物治療の適正化に向けて医師や多職種と連携する時間など、介入の質を上げるために有効活用できると話されています。

たいぞーさんの薬局でも、まもなくAI薬歴の運用が始まるといいます。スタッフと考え方を共有し、患者さんにどんな仕事を届けるのかを確認した上で導入したいと語られました。

まとめ

AI薬歴は薬歴記載を大幅に効率化する一方、綺麗な文章ゆえに「後知恵バイアス」を招きやすいツールです。たいぞーさんは、薬剤師が考えるタイミングをAIの出力前に置くことこそが、道具に飲み込まれないための鍵だと語っています。