第25弾｜禁止しても現場では使われる。医療・福祉現場の「シャドーAI」

AIに関する記事

医療・福祉現場で広がる「シャドーAI」の実態と対策を解説。禁止しても現場で使われてしまう背景、個人情報漏えい、誤情報、組織防衛、教育、ガバナンスの整え方まで2026年時点の情報でわかりやすく整理します。

生成AIを「とりあえず禁止」にしているのに、現場ではなぜか使われている。そんな状態、実はかなり危ないです。医療・福祉現場では、忙しさや善意から、職員が私用スマホなどでこっそりAIを使い始める“シャドーAI”が問題視されています。怖いのは悪意ある利用より、良かれと思ってやってしまう無断利用です。ルールがないまま使われると、利用者情報の入力、誤情報の流通、確認されていない文書の提出など、現場の信用を揺らす事故につながります。

シャドーAIとは何か

シャドーAIとは、組織が正式に承認していないAIサービスを、職員が私的に、あるいは非公式に業務で使ってしまう状態のことです。介護・障害福祉分野では、法人が一律禁止していても、利便性を知った職員が個人の携帯などでこっそり使い始める現象として説明されています。つまり問題は「AIを使うこと」そのものではなく、組織が把握できていない状態で使われることです。 Source

医療・ヘルスケア分野のガイドラインでも、組織が利用可能と判断していない生成AIを個人が使うケースは想定されており、その場合でも用途を参考情報の収集などに限定すべきとされています。逆に言えば、何を入れ、何に使い、どこまで許すかを決めないまま放置するのは、かなり危うい運用です。 Source

なぜ禁止しても現場で使われるのか

理由は、とても現場的です。便利だからです。議事録の下書き、記録文の言い換え、家族説明のたたき台、研修案内の草案。こうした作業は、現場にとって地味に重く、しかもAIが得意な領域です。だから禁止だけしても、忙しい職員ほど「ちょっとだけ」「下書きだけなら」と使いたくなります。 Source Source

ここで起きやすいのが、いわば善意の暴走です。現場を助けたい、早く終わらせたい、楽にしたい。その気持ちは正しいのに、ルールがないせいで危険な使い方に流れてしまう。Jointの記事でも、性悪説で締め付けるだけではなく、職員が正しくAIを使いこなし、自分を守れるリテラシーを持つことが重要だとされています。 Source

シャドーAIが医療・福祉現場で危ない理由

一番大きいのは、個人情報漏えいです。利用者の氏名、介護保険番号、既往歴、家族状況、生活トラブルなど、現場で普段扱っている情報は極めてセンシティブです。医療・ヘルスケア分野のガイドラインでも、入力データが再学習に利用される設定のAIに個人情報を入れることは、個人情報保護法上の問題につながりうると整理されています。 Source

次に危ないのが、ハルシネーションによる誤情報です。AIはもっともらしく嘘をつきます。介護現場向けの記事でも、実在しない加算をしれっと提案したり、確認作業ばかり増えて「最初から自分で書いた方が早かった」と感じるケースが示されています。医療・福祉の現場では、この“自然な間違い”が文書や説明に入り込むことが深刻です。 Source Source

さらに、責任の所在が曖昧になるのも大きな問題です。誰がAIを使ったのか、誰が確認したのか、どこまで人が責任を持ったのか。この線引きが曖昧なままでは、何か起きた時に現場も管理者も守れません。医療AIのガイドラインでは、出力内容は必ず人が確認し、必要に応じてAI利用の旨を示す透明性も求められています。 Source

禁止より先に整えるべき4つのルール

まず必要なのは、使ってよいAIを決めることです。職員が各自で勝手に選ぶのではなく、組織として「このサービスなら利用可」と判断したものだけを使う。これは基本中の基本です。 Source

次に、入力禁止情報を明文化することです。氏名、生年月日、住所、保険番号、病歴、家族構成、トラブル詳細など、入力してはいけない情報を一覧化しておくと、現場は迷いにくくなります。名前を消せば大丈夫、という感覚は危険で、背景情報だけでも個人特定につながることがあります。 Source Source

三つ目は、出力確認の責任者を決めることです。AIは「新人スタッフ」だと思って扱うのがちょうどいいです。下書きは任せても、最後は先輩が確認して責任を持つ。この Human in the loop の考え方が、医療・福祉では特に重要です。 Source

四つ目は、用途を限定して始めることです。最初から重要計画書や個別判断に使うのではなく、会議録、内部案内、広報文、研修案内など低リスク業務から始める。これなら、便利さを活かしつつ事故を避けやすくなります。 Source Source

現場に定着する教育の考え方

ここで大事なのは、「禁止」より「教育」が先だということです。Jointの記事でも、ツール導入以上に教育が先行すべきだと強調されています。なぜ危険なのか、どこまでならよいのか、何を入れてはいけないのか。これを職員全体で共有し、共通言語を持つことが最強の盾になります。 Source

また、管理者が覚えておきたいのは、知らない・分からない状態を放置すること自体がリスクだという点です。生成AIの規制は罰則中心ではなくガイドライン中心ですが、医療分野では責任分界の明確化、クラウド利用時の安全設計、二要素認証など、組織に求められる安全管理は着実に具体化しています。つまり、「現場で勝手に使われていた」を許すほど、組織は弱くなります。 Source Source

小さく始める安全な生成AI運用

おすすめは、いきなり「導入します」と宣言するのではなく、まず現場で既に使われていそうな業務を棚卸しすることです。議事録、SNS文、案内文、記録の言い換え。ここを洗い出すと、禁止ではなく管理へ進めます。 Source

そのうえで、

まとめ

シャドーAIの本質は、「AIが悪い」ではなく、組織が見えていないところで便利さが先行することにあります。禁止しても使われるなら、必要なのは見て見ぬふりではなく、ルールと教育と確認フローです。 Source

医療・福祉現場では、AIを使うかどうかより、どう安全に使わせるか が問われる時代に入っています。現場の善意を事故にしないために、まずは“禁止”から“管理”へ。その一歩が、温かなDXにつながります😊 Source Source

参考リンク