全球領先資安公司趨勢科技(東京證券交易所股票代碼:4704) 旗下全球企業 AI 資安領導品牌 TrendAI™發表最新研究報告「風險處方箋: AI 醫療的資安隱患」,對 AI 醫療的導入速度已超越既有治理能力提出警示。隨著醫療機構運用生成式 AI 撰寫病歷、回覆病患訊息及處理保險核准申請,當 AI 產出的內容或決策未經明確的人工審核,卻被納入正式病歷或照護流程,可能形成責任與審核缺口,將使得錯誤資訊被視為醫療事實,影響後續病患照護。
TrendAI™研究團隊指出,僅依靠 AI 代理程式而缺少人員檢視的「責任斷層」(Custody Gap) 導致的風險,從診間、術後追蹤電話、居家照護,到行政與保險作業中的每一個環節都可能發生。AI 可能會受到惡意指令操控,或是在沒有外在攻擊者介入的情況下,產生虛構內容、低估病情急迫性,甚至是在後續流程中反覆引用既有的錯誤資訊。如果醫療機構只著重於防範外部攻擊,就可能會忽略 AI 自動產出及自動執行流程所帶來的風險。
TrendAI™指出,如果 AI 代理程式產生的虛構內容未被醫師發現,後續 AI 代理工具又以這些病歷作為參考,錯誤就可能被反覆引用,最終被當成真實病史。此外,攻擊者也可能透過「提示注入 (prompt injection)」,將惡意指令藏在轉診資料、病患訊息或醫療影像中,操控誘使 AI 代理程式偏離原本任務而產生幻覺內容。報告引用 2025 年《JAMA Network Open》的一項研究指出,在該研究的醫療建議模型測試中,提示注入攻擊成功率達 94.4%註二,凸顯醫療 AI 除了須確保內容正確,也須防範外部資料被用來操控產出。
從照護電話到系統工具,自動化流程增加資料外洩風險
醫療機構運用 AI 語音代理進行術後追蹤、用藥確認與居家照護時,如果系統沒有將需要進一步處理的病況轉交真人,可能會延誤醫療團隊的介入。對此,TrendAI™也提醒,病患在逐漸習慣與自動化照護語音互動後,詐騙者可能仿冒可信任的聲音,誘使病患提供個人機敏資料或健康資訊,一旦通話錄音外洩,就可能成為有心人士詐騙的素材。
TrendAI™建議,醫療機構應明確指定人員負責審核 AI 產生並可能影響患者照護或保險給付的內容,並要求 AI 生成的診療紀錄經醫師確認及簽核後,才能納入正式病歷。機構也應明訂哪些事項不能由 AI 自行決定,包括判斷患者是否適合接受某項治療、是否需要轉交真人回應處理等。此外,醫療機構應在完成告知與同意程序後,依照適用規範保存原始音檔、逐字稿、提示及模型版本,以便回溯與核對 AI 產出的內容。
在技術與資料管理方面,醫療機構需要驗證與加密 AI 代理與工具之間的連結,依任務限制 AI 代理可存取的資料及可執行的工作項目,留存工具呼叫記錄,並設定自動停止機制,避免異常操作持續擴大。同時,應掌握病患資料的儲存處與第三方服務商,明確規範資料是否可用於模型訓練,並在採購時要求第三方進行安全測試及符合自身臨床需求的準確性驗證,將人工審核、資料治理與資安控管共同納入醫療 AI 部署流程。
註一:「Use of Artificial Intelligence in the Ontario Government」審計報告由加拿大安大略省審計長辦公室於2026年5月12日發布,審查省政府AI使用與治理情形,其中包括對省政府核准的20款AI診療紀錄工具進行測試。 註二:「Vulnerability of Large Language Models to Prompt Injection When Providing Medical Advice」研究於2025年12月19日發表於《JAMA Network Open》,透過216段模擬病患與AI的對話,評估三款商用大型語言模型在提供醫療建議時,是否會受到提示注入攻擊操控。 註三:「MCP Security: Network-Exposed Servers Are Backdoors to Your Private Data」研究由TrendAI™於2025年7月16日發布,透過網路掃描,檢視對外開放的MCP伺服器是否具備用戶端身分驗證及傳輸加密等安全措施。 註四:「Update on Exposed MCP Servers: The Threat Widens to the Cloud」研究由TrendAI™於2026年4月28日發布,延續2025年的MCP伺服器掃描,追蹤外曝伺服器數量及其可存取的資料與工具,並分析對雲端基礎架構的安全風險。