中規模病院(病床数250床・従業員400名)｜ 2024年7月〜2024年9月（3ヶ月）
患者データを扱うAIエージェントの安全導入設計を支援
医療情報のセキュリティ要件を満たしつつ、診療支援AIの安全なPoC実施と本番移行判定基準を策定
診療支援精度
92%
達成
医師確認フロー
100%
設計完了
セキュリティ要件
完了
（全項目対応）
本番移行判定
明確化
（基準策定済）
プロジェクト開始前の課題
患者データのセキュリティ要件
診療情報・患者個人情報を含むデータをAIが処理するため、個人情報保護法・医療情報ガイドラインへの準拠が必須。外部AIサービスへのデータ送信に厳格な制約があり、オンプレミスまたは専用環境での運用が求められていた。
医療過誤リスクへの懸念
AIの診療支援提案が誤っていた場合の責任所在が不明確。「AIが提案したから」という責任転嫁のリスクや、医師のAI依存による判断力低下を懸念する声が医療安全委員会から上がっていた。
現場医師の理解と協力が得られない
多忙な診療現場で「新しいツールを試す余裕がない」という反応。また、AIの判断根拠がブラックボックスでは医師が信頼できないという懸念があった。
CIALTEのアプローチ
リスク評価・セキュリティ設計
医療情報ガイドライン・個人情報保護法の要件を洗い出し、データフローごとのリスク評価を実施。患者データの匿名化・アクセス制御・監査ログの設計を行い、医療安全委員会の承認を取得。
Why this approach
医療領域ではセキュリティ要件が最優先。設計段階でコンプライアンスを組み込むことで、PoC実施後の「セキュリティが足りないから本番に進めない」を防止。
Human-in-the-Loop PoC実施
放射線科の画像診断支援に絞った小規模PoCを実施。AIの提案は必ず医師が確認・承認するフローを設計し、AIの判断根拠（注目領域のハイライト）を可視化。評価基準は感度・特異度・医師の受容度の3軸で設定。
Why this approach
全科一斉導入ではなく、単一科に絞った小規模PoCで安全性を検証。医師が「AIの提案を確認する」立場を明確にすることで、責任所在の懸念を解消。
本番移行判定基準策定
PoC結果を基に、本番移行の判断基準（精度閾値・セキュリティ要件・運用体制・コスト対効果）を明文化。経営層・医療安全委員会・情シス部門が合意できる判定フレームワークを納品。
Why this approach
「PoCは成功したが本番に進めない」を防ぐために、本番移行の判断基準を事前に合意。「何が達成できたら本番に進むか」を明確にすることで、意思決定を加速。
Technology Stack
プロジェクトの成果
| Metric | Before | After |
|---|---|---|
| 診療支援精度（感度） | — | 92% |
| 診療支援精度（特異度） | — | 95% |
| 医師の受容度スコア | — | 4.2/5.0 |
| セキュリティ要件充足率 | — | 100% |
放射線科医から「AIの注目領域が見えるので、見落とし防止に役立つ」と好評
医療安全委員会が「この設計なら本番導入を検討できる」と承認
他科（病理診断・内視鏡）からも「うちの科でも試したい」という声が上がる
"患者データを扱う以上、セキュリティは絶対に妥協できません。CIALTEさんは最初にセキュリティ設計から入ってくれたので、安心してPoCを進められました。AIの判断根拠が可視化されているので、医師としても信頼できます。本番移行の判断基準も明確になったので、次のステップが見えています。"
放射線科 部長
中規模病院