當(dāng)前醫(yī)療行業(yè)面臨勞動力短缺問題，AI 應(yīng)用雖有潛力，但存在數(shù)據(jù)隱私、算法偏見等風(fēng)險。研究人員開展醫(yī)療企業(yè) AI 治理在風(fēng)險緩解框架中作用的研究，提出強化治理框架的措施。這有助于保障 AI 安全、公平應(yīng)用，推動醫(yī)療行業(yè)發(fā)展。

　　在醫(yī)療行業(yè)，一場看不見硝煙的 “戰(zhàn)爭” 正悄然打響。隨著人們對健康需求的不斷攀升，醫(yī)療資源緊張的問題愈發(fā)凸顯，尤其是醫(yī)護人員短缺，就像戰(zhàn)場上兵力不足，讓整個醫(yī)療體系面臨巨大壓力。比如，美國醫(yī)院協(xié)會預(yù)計到 2033 年，醫(yī)生短缺將高達 124,000 人，每年還得招募至少 200,000 名護士才能勉強跟上需求增長。在這樣的困境下，人工智能（AI）如同一位 “救星” 出現(xiàn)在人們視野中，它能自動化處理行政事務(wù)、助力精準診斷、實現(xiàn)個性化醫(yī)療，仿佛給醫(yī)療體系注入了一針 “強心劑”。

　　可這 “救星” 也藏著不少隱患。AI 應(yīng)用在醫(yī)療領(lǐng)域時，數(shù)據(jù)隱私泄露、算法存在偏見、模型缺乏可解釋性，以及可能出現(xiàn)的 “幻覺” 等問題接踵而至，就像隱藏在暗處的 “敵人”，隨時可能給患者安全帶來威脅。在這種情況下，為了讓 AI 更好地服務(wù)醫(yī)療，來自美國 ALIGNMT AI Inc 的 Andreea Bodnari 和 Healthcare Financial Management Association（HFMA）的 John Travis 等研究人員展開了深入研究。他們聚焦于治理框架在醫(yī)療組織 AI 應(yīng)用中緩解風(fēng)險和建立信任的作用，相關(guān)研究成果發(fā)表在《npj Digital Medicine》上。

　　這項研究并沒有采用復(fù)PG電子網(wǎng)站雜的實驗技術(shù)，主要是通過綜合分析現(xiàn)有文獻資料、梳理聯(lián)邦和州的相關(guān)法規(guī)政策，以及參考行業(yè)內(nèi)的專業(yè)經(jīng)驗來開展研究。研究人員從多個角度深入剖析 AI 在醫(yī)療領(lǐng)域的應(yīng)用情況，從而得出相應(yīng)結(jié)論。

　　AI 早已在醫(yī)療領(lǐng)域 “大展身手”，從早期基于專家規(guī)則的系統(tǒng)，到如今先進的生成式 AI 和機器學(xué)習(xí)工具，它們廣泛應(yīng)用于臨床診斷、治療規(guī)劃、患者分流、預(yù)約安排等各個環(huán)節(jié)。例如，Mayo Clinic 與谷歌云合作利用生成式 AI 改善臨床文檔記錄和患者溝通；Elevance Health 開發(fā)自己的生成式 AI 工具優(yōu)化會員服務(wù)和理賠流程；Optum 利用大語言模型自動化處方審批和總結(jié)患者數(shù)據(jù)。但隨著 AI 的廣泛應(yīng)用，治理的重要性也日益凸顯。從醫(yī)療技術(shù)發(fā)展歷程來看，像電子健康記錄、醫(yī)療設(shè)備等技術(shù)的應(yīng)用，都伴隨著相應(yīng)治理框架的出現(xiàn)，以保障患者安全和數(shù)據(jù)安全。如今，AI 治理同樣成為醫(yī)療行業(yè)的關(guān)鍵任務(wù)，它涵蓋從 AI 系統(tǒng)設(shè)計、開發(fā)到使用的全過程，旨在確保 AI 應(yīng)用的安全性和可靠性。

　　在醫(yī)療 AI 應(yīng)用中，數(shù)據(jù)質(zhì)量問題猶如一顆 “定時炸彈”。AI 模型高度依賴訓(xùn)練數(shù)據(jù)，若數(shù)據(jù)存在缺陷，預(yù)測和建議就會出錯。比如，基于兒科數(shù)據(jù)訓(xùn)練的 AI 系統(tǒng)用于更廣泛患者群體時，容易導(dǎo)致誤診或不當(dāng)治療建議。算法偏見也是一大 “頑疾”，即使使用高質(zhì)量數(shù)據(jù)訓(xùn)練，AI 系統(tǒng)仍可能因訓(xùn)練數(shù)據(jù)反映的系統(tǒng)性不平等而強化現(xiàn)有醫(yī)療差距。像風(fēng)險評估工具可能因數(shù)據(jù)偏見高估特定種族群體患病概率，進而引發(fā)錯誤治療決策。此外，復(fù)雜 AI 模型的可解釋性差，就像一個 “黑匣子”，醫(yī)生難以理解其決策過程，這嚴重阻礙了 AI 在醫(yī)療領(lǐng)域的推廣應(yīng)用。最后，AI 系統(tǒng)在醫(yī)療工作流程中的實施風(fēng)險也不容小覷，若規(guī)劃和監(jiān)督不足，數(shù)據(jù)質(zhì)量和可用性問題會影響其性能，還可能導(dǎo)致醫(yī)生誤用或過度依賴 AI 工具，危及患者護理質(zhì)量。

　　為應(yīng)對上述風(fēng)險，研究人員提出強化現(xiàn)有治理框架的一系列措施。在確保 AI 適用性方面，治理框架應(yīng)要求在采用 AI 解決方案前，對問題進行全面評估，明確 AI 的適用性，避免盲目投資。在數(shù)據(jù)治理上，醫(yī)療企業(yè)要完善數(shù)據(jù)治理政策，保證 AI 系統(tǒng)使用數(shù)據(jù)的質(zhì)量，同時防范生成式 AI 帶來的數(shù)據(jù)中毒風(fēng)險。對于透明度和技術(shù)披露，企業(yè)應(yīng)詳細記錄 AI 模型開發(fā)過程，并進行內(nèi)部驗證，還要成立跨職能治理委員會全程監(jiān)督。在合規(guī)報告方面，集中整合合規(guī)報告能提高監(jiān)督效率，確保企業(yè)合規(guī)運營。而在實施監(jiān)督上，持續(xù)監(jiān)測和部署后審計 AI 系統(tǒng)，制定使用協(xié)議防止過度依賴 AI，通過跟蹤關(guān)鍵績效指標（KPIs）及時發(fā)現(xiàn)模型問題，必要時進行人工審查。

　　生成式 AI 和大語言模型（LLMs）為醫(yī)療行業(yè)帶來新機遇的同時，也帶來了諸多風(fēng)險，如事實不準確、社會偏見等。對此，研究人員提出了針對性的風(fēng)險管理策略。紅隊測試是重要手段之一，通過模擬對抗環(huán)境，檢測 AI 模型的潛在漏洞、偏差輸出和不準確之處，確保其安全性和公平性。持續(xù)的倫理審查也必不可少，多學(xué)科利益相關(guān)者共同參與，形成反饋循環(huán)，保障 AI 應(yīng)用符合醫(yī)療價值觀和以患者為中心的理念。此外，自適應(yīng)模型訓(xùn)練和微調(diào)能夠根據(jù)新發(fā)現(xiàn)的風(fēng)險和社會期望的變化，調(diào)整訓(xùn)練數(shù)據(jù)和算法設(shè)計，推動生成式 AI 朝著更公平的醫(yī)療成果方向發(fā)展。

　　研究表明，通過強化 AI 治理框架，醫(yī)療企業(yè)能夠有效管理 AI 技術(shù)帶來的風(fēng)險，為安全、有效、符合倫理的 AI 應(yīng)用奠定基礎(chǔ)。這不僅能提升患者護理質(zhì)量，還將推動醫(yī)療行業(yè)的創(chuàng)新發(fā)展，重塑醫(yī)療行業(yè)的未來。同時，研究人員強調(diào) AI 治理委員會應(yīng)在 AI 應(yīng)用審查和監(jiān)測中發(fā)揮核心作用，確保 AI 系統(tǒng)符合安全、有效和倫理標準。這項研究為醫(yī)療領(lǐng)域 AI 的合理應(yīng)用提供了重要的理論和實踐指導(dǎo)，讓 AI 這把 “雙刃劍” 在醫(yī)療戰(zhàn)場上成為真正的 “利器”，而非 “兇器”，助力醫(yī)療行業(yè)在數(shù)字化時代實現(xiàn)更好的發(fā)展，為全球患者帶來更優(yōu)質(zhì)的醫(yī)療服務(wù)。