7 月 18 日，在云南昆明舉辦的中華醫(yī)學(xué)會(huì)醫(yī)學(xué)倫理分會(huì) 2025 年會(huì)現(xiàn)場(chǎng)，由上海交通大學(xué)、復(fù)旦大學(xué)、上海交通大學(xué)醫(yī)學(xué)院附屬瑞金醫(yī)院和螞蟻集團(tuán)聯(lián)合編寫的《醫(yī)療健康大模型倫理與安全白皮書》正式發(fā)布，為醫(yī)療健康大模型的安全、有效、合規(guī)應(yīng)用提供參考指導(dǎo)，推動(dòng)醫(yī)療 AI 可信落地，助力醫(yī)療行業(yè)智能化的發(fā)展，讓算法更有“醫(yī)者仁心”。

　　近年來，人工智能技術(shù)發(fā)展迅猛，在醫(yī)療領(lǐng)域，大模型的應(yīng)用為提高醫(yī)療服務(wù)效率、優(yōu)化醫(yī)療資源配置、方便用戶就醫(yī)問診帶來了巨大機(jī)遇。然而當(dāng) AI 走進(jìn)診室、藥房和家庭健康管理時(shí)，其安全性、嚴(yán)謹(jǐn)性和倫理合規(guī)性面臨遠(yuǎn)超其他行業(yè)的挑戰(zhàn)：AI 給我的就診建議是否正確專業(yè)？我的個(gè)人隱私能得到充分保護(hù)嗎？醫(yī)療決策過程是否透明可溯？診療過程中的責(zé)任歸屬如何界定？這些都是用戶擔(dān)憂、醫(yī)生關(guān)切、行業(yè)亟需解決的“痛點(diǎn)”。

　　該白皮書針對(duì)上述大模型應(yīng)用中可能出現(xiàn)的知情同意、用戶隱私、數(shù)據(jù)歧視、不透明性、幻覺與錯(cuò)誤信息以及違反倫理法律規(guī)定等風(fēng)險(xiǎn)，圍繞科學(xué)性、安全性、合規(guī)性、倫理性等關(guān)鍵維度，構(gòu)建了“應(yīng)用場(chǎng)景 × 倫理規(guī)范 × 法規(guī)數(shù)據(jù)集 × 考點(diǎn) × 主觀題”五位一體的醫(yī)療健康大模型評(píng)估體系，并提出“大模型自評(píng)+專家復(fù)核”的多層評(píng)估機(jī)制，提升模型倫理違規(guī)的識(shí)別率，讓醫(yī)療大模型在應(yīng)用前通過“質(zhì)檢關(guān)”，變得更準(zhǔn)確、安全、公平、透明。

　　在醫(yī)療健康大模型評(píng)測(cè)指引的基礎(chǔ)上，白皮書也提供了系統(tǒng)性的風(fēng)險(xiǎn)防控路徑，包括數(shù)據(jù)安全防控、倫理合規(guī)建設(shè)、技術(shù)可靠性與風(fēng)險(xiǎn)監(jiān)控、監(jiān)管與評(píng)估體系建設(shè)等環(huán)節(jié)。白皮書特別強(qiáng)調(diào)了“人機(jī)對(duì)PG電子官方平臺(tái)入口齊”理念，只有讓對(duì)齊原則融入技術(shù)開發(fā)、行業(yè)應(yīng)用、監(jiān)管等各個(gè)環(huán)節(jié)，AI 才能從“高效工具”轉(zhuǎn)變?yōu)椤翱煽炕锇椤?，并提出包括倫理?zhǔn)則微調(diào)、價(jià)值觀對(duì)齊訓(xùn)練、敏感內(nèi)容干預(yù)機(jī)制、RAG 模塊引用質(zhì)量控制、醫(yī)學(xué)共情識(shí)別等醫(yī)療大模型倫理對(duì)齊的技術(shù)路徑，確保大模型首先遵循“以人為本，生命至上”的原則。

　　該白皮書還介紹了在目前在醫(yī)療產(chǎn)業(yè)已落地應(yīng)用的產(chǎn)品案例，包括“小瑞健康”、“夸克健康助手”和“AI 健康應(yīng)用 AQ”。據(jù)了解，今年 6 月，螞蟻集團(tuán)正式發(fā)布 AQ，為用戶提供健康科普、就診咨詢、報(bào)告解讀、健康檔案等上百項(xiàng) AI 功能，還能高效連接全國(guó)超 5000 家醫(yī)院、近百萬醫(yī)生、近 200 個(gè)名醫(yī) AI 分身等專業(yè)醫(yī)療服務(wù)，讓遠(yuǎn)在山區(qū)的老鄉(xiāng)也能便捷享受專業(yè)的醫(yī)療服務(wù)。

　　“螞蟻將平等、尊重、可信、負(fù)責(zé)的科技倫理原則融入技術(shù)研發(fā)的全鏈路，倡導(dǎo)‘AI 向善’的理念，希望為用戶打造的產(chǎn)品，”螞蟻集團(tuán)全面風(fēng)險(xiǎn)管理部 AI 風(fēng)險(xiǎn)治理總監(jiān)楊舟在現(xiàn)場(chǎng)表示，“同時(shí)我們也將繼續(xù)堅(jiān)持開放合作，和國(guó)內(nèi)外多學(xué)科、跨行業(yè)的專家、學(xué)者及機(jī)構(gòu)共同推動(dòng) AI 治理體系的完善?！?/p>

　　北京大學(xué)醫(yī)學(xué)人文學(xué)院醫(yī)學(xué)倫理與法律系教授、博士生導(dǎo)師叢亞麗表示，“醫(yī)療健康大模型的研發(fā)與應(yīng)用不是一個(gè)單純的技術(shù)命題，而是涉及生命尊嚴(yán)與安全的社會(huì)責(zé)任課題。這次發(fā)布的白皮書在醫(yī)療大模型倫理與法律風(fēng)險(xiǎn)等方面的歸納和測(cè)評(píng)提出了獨(dú)創(chuàng)的嘗試，為行業(yè)各方提供了一個(gè)非常有價(jià)值的參考框架和指引?！?/p>

　　據(jù)了解，該白皮書還集結(jié)了來自北京協(xié)和醫(yī)學(xué)院、北京大學(xué)醫(yī)學(xué)部、復(fù)旦大學(xué)附屬腫瘤醫(yī)院、復(fù)旦大學(xué)附屬婦產(chǎn)科醫(yī)院、西安交通大學(xué)、廈門大學(xué)醫(yī)學(xué)院、天津醫(yī)科大學(xué)、天津中醫(yī)藥大學(xué)等十余所國(guó)內(nèi)高校與醫(yī)院的專家組成專家委員會(huì)，參與內(nèi)容的框架制定，確保白皮書內(nèi)容的權(quán)威性和科學(xué)性。

　　7月21日消息，螞蟻集團(tuán)旗下 AI健康應(yīng)用AQ近日推出iOS版，上線小時(shí)，火速攀升至蘋果應(yīng)用商店醫(yī)療榜榜首，超越小荷AI醫(yī)生、京東健康等應(yīng)用。

　　AQ是螞蟻在醫(yī)療健康領(lǐng)域的戰(zhàn)略級(jí)應(yīng)用，通過自研醫(yī)療大模型能力，向用戶提供尋醫(yī)、問診、讀報(bào)告、測(cè)健康等上百項(xiàng)AI服務(wù)，同時(shí)與近百萬線家公立醫(yī)院等專業(yè)服務(wù)鏈接。此前，AQ在6月26日已上線安卓等主要應(yīng)用市場(chǎng)。

　　通過測(cè)試體驗(yàn)發(fā)現(xiàn)，最新的AQ iOS版與安卓版功能一致。對(duì)比市面同類AI應(yīng)用，AQ在問答交互上表現(xiàn)出色，“AI診室”功能可實(shí)現(xiàn)模仿真人醫(yī)生，循序漸進(jìn)引導(dǎo)用戶給出必要信息，提供更全面的健康建議。同時(shí)，“AI醫(yī)生分身”集結(jié)了全國(guó)超200位三甲名醫(yī)、甚至是國(guó)家級(jí)院士AI智能體，覆蓋兒科、呼吸、睡眠等20多個(gè)主要科室，可提供隨時(shí)隨地的名醫(yī)健康咨詢服務(wù)。

　　蘋果對(duì)用戶安全與生態(tài)健康尤為重視，一向以嚴(yán)謹(jǐn)著稱，AQ則是國(guó)內(nèi)首批通過國(guó)家信通院醫(yī)療大模型雙領(lǐng)域可信評(píng)估的應(yīng)用。伴隨 iOS版上線，AQ已全面覆蓋主流智能手機(jī)平臺(tái)。據(jù)悉，接入蘋果HealthKit平臺(tái)之外，螞蟻AQ還將與Apple Watch合作，基于其安全功能開發(fā)更多創(chuàng)新服務(wù)能力，如跌倒檢測(cè)的緊急救援等，持續(xù)為中國(guó)用戶開發(fā)更多AI健康應(yīng)用及服務(wù)。返回搜狐，查看更多