這份報告是澳大利亞政府對醫(yī)療保健領域安全和負責任的人工智能 (AI) 立法和監(jiān)管進行審查的最終報告。報告審查了澳大利亞現(xiàn)有的立法框架，并通過公眾咨詢收集了利益相關者的意見，以評估AI在醫(yī)療中的應用對現(xiàn)行法律法規(guī)的影響，并探討了非監(jiān)管措施的潛在作用。報告的重點在于識別現(xiàn)有立法框架中的差距和不足，并提出建議以促進AI在醫(yī)療領域的更安全、更負責任的應用。
報告首先概述了澳大利亞政府 AI領域的整體戰(zhàn)略，即在獲取AI效益的同時，建立公眾信任。政府采取了五項行動方案：提供監(jiān)管清晰度；支持和推廣最佳實踐治理；支持AI能力建設；將政府定位為典范；以及開展國際合作。2024-25年預算撥款用于對消費者、版權和醫(yī)療保健法律進行優(yōu)先審查，以了解其如何適用于AI。衛(wèi)生部開展了公眾咨詢，旨在明確和加強澳大利亞醫(yī)療環(huán)境中 AI的立法和監(jiān)管。
報告的核心是七項主要發(fā)現(xiàn)：
發(fā)現(xiàn)1：監(jiān)管現(xiàn)狀：澳大利亞醫(yī)療保健的監(jiān)管是一個復雜網(wǎng)絡，涉及州/地區(qū)和國家立法?，F(xiàn)有國家框架（例如隱私法、消費者法、治療產(chǎn)品法和醫(yī)療從業(yè)人員監(jiān)管）對醫(yī)療中的AI產(chǎn)生影響。衛(wèi)生部審查的立法大多是管理性質的，支撐著老年醫(yī)護、醫(yī)療保險福利計劃、藥品福利計劃、“我的健康記錄”和醫(yī)療標識符等核心醫(yī)療衛(wèi)生體系。這些立法可能需要進行一些小的技術性修正以增強清晰度。對于現(xiàn)有法規(guī)未涵蓋的醫(yī)療產(chǎn)品，全經(jīng)濟范圍的AI防護措施（包括上市前和上市后要求）可以提供清晰度，從而建立信任并促進創(chuàng)新。
發(fā)現(xiàn)2：國家AI醫(yī)療政策領導力：公眾咨詢確定需要國家和中央政策引導，以指導澳大利亞醫(yī)療領域AI的公平利益實現(xiàn)。普遍支持針對醫(yī)療保健復雜性的AI指南，擴展國家AI中心提供的現(xiàn)有建議。這可能包括關于以下方面的倡議：AI技術中敏感醫(yī)療數(shù)據(jù)的倫理、安全和負責任使用；在醫(yī)療保健服務中采用和實施AI的獨特治理風險；了解AI對特定人群影響的證據(jù)基礎；對具有廣泛影響的新興產(chǎn)品及時提供指導，以應對AI創(chuàng)新的快速步伐；以及AI對不同醫(yī)學專業(yè)的的影響。
發(fā)現(xiàn)3：安全實施的資源和支持：在AI的安全和負責任實施方面存在知識差距。缺乏高質量的、最新的指南，以支持AI在醫(yī)療保健領域的循證實施，以及對醫(yī)療保健中人機交互的具體考慮。為了支持決策，關于如何在產(chǎn)品生命周期中評估和驗證新AI技術的指導可以包括：AI使用環(huán)境的適用性評估；用于訓練和驗證的數(shù)據(jù)集的質量和相關性以及所用方法的評估；輸出準確性的監(jiān)測；滿足特定人群和醫(yī)療衛(wèi)生服務需求的產(chǎn)品選擇支持；考慮人機團隊的AI實施支持；以及在臨床環(huán)境中實施AI的試驗支持。
發(fā)現(xiàn)4：醫(yī)務人員及消費者需要獲得高質量的、可信賴的信息：一個集中化的、高質量的和可信賴的信息來源將支持消費者和臨床醫(yī)生對AI產(chǎn)品做出明智的決策。關于醫(yī)療保健中AI的低質量和誤導性信息的存在會對決策產(chǎn)生不利影響。此外，使用AI生成有關醫(yī)療保健的信息可能會導致低質量的輸出。獲得關于醫(yī)療保健中AI的可信、準確、可靠和及時的信息來源將支持其安全和負責任的使用。
發(fā)現(xiàn)5：實現(xiàn)效益：目前缺乏證據(jù)來支持AI在醫(yī)療保健中的潛在益處。建立基礎要素，例如具有各種定性和定量指標的效益框架，將為了解AI在醫(yī)療保健中帶來的效益提供見解。這將使人們能夠了解AI在醫(yī)療系統(tǒng)中最有效的地方，并支持投資決策和AI效益的公平分配。
發(fā)現(xiàn)6：加強數(shù)據(jù)和知情同意管理：需要在AI的整個生命周期中管理好數(shù)據(jù)和知情同意風險。法規(guī)應明確說明AI何時以及如何訪問和使用數(shù)據(jù)，以及誰應對患者數(shù)據(jù)的負責任使用負責。需要明確誰擁有患者數(shù)據(jù)，并加強圍繞AI使用數(shù)據(jù)的患者知情同意做法。治理框架需要解決與數(shù)據(jù)偏差、數(shù)據(jù)準確性、數(shù)據(jù)嵌入和數(shù)據(jù)訪問相關的風險。一些回應指出，實施合成數(shù)據(jù)資源可能是解決與數(shù)據(jù)訪問和醫(yī)療保健研究中數(shù)據(jù)表示相關的一些挑戰(zhàn)的一種方法。包含數(shù)據(jù)治理措施和供應鏈透明度的全經(jīng)濟范圍的強制性保障措施，可以在一定程度上減輕在高風險環(huán)境中使用AI的風險。
發(fā)現(xiàn)7：激勵措施可以支持最佳實踐：一個激勵行業(yè)提供符合澳大利亞市場并適用的高質量AI技術的框架，可以鼓勵最佳實踐。激勵最佳實踐的AI開發(fā)以及提供高質量、準確性、安全性和適用性的實踐，可以支持所有澳大利亞人實現(xiàn)利益。這也有助于降低低質量產(chǎn)品帶來的危害風險。、
報告還討論了公眾咨詢中出現(xiàn)的一些關鍵主題，包括AI的理解程度、偏差、同意和透明度、數(shù)據(jù)、證據(jù)基礎和人機交互等。咨詢結果顯示，利益相關各方對AI的理解程度各不相同，許多人對AI的了解不足或依賴媒體信息。偏差、同意和數(shù)據(jù)安全是主要的擔憂，許多受訪者強調需要在AI產(chǎn)品開發(fā)中更好地代表澳大利亞人群，并確?；颊邔?span leaf="" style="-webkit-tap-highlight-color: transparent; padding: 0px; outline: 0px; max-width: 100%;">AI的使用知情同意。幾乎所有受訪者都認為，在涉及患者安全的高風險醫(yī)療場景中，必須有人工參與決策過程（“人機在環(huán)”）。
報告最后總結道，澳大利亞現(xiàn)有的立法框架在很大程度上能夠適應AI的應用，但需要進行一些技術性和定義上的修改以增強清晰度。此外，全經(jīng)濟范圍的AI防護措施以及非監(jiān)管措施可以進一步加強保障，以確保AI在醫(yī)療保健領域的更安全、更負責任的應用，并公平地實現(xiàn)AI帶來的益處。報告強調了建立一個強大的證據(jù)基礎、提供高質量的可信信息以及激勵行業(yè)最佳實踐的重要性。
如需要《安全可靠的醫(yī)療人工智能：立法與監(jiān)管綜述》（英文，29頁）
特別聲明：智慧醫(yī)療網(wǎng)轉載其他網(wǎng)站內容，出于傳遞更多信息而非盈利之目的，同時并不代表贊成其觀點或證實其描述，內容僅供參考。版權歸原作者所有，若有侵權，請聯(lián)系我們刪除。
凡來源注明智慧醫(yī)療網(wǎng)的內容為智慧醫(yī)療網(wǎng)原創(chuàng)，轉載需獲授權。
智慧醫(yī)療網(wǎng) ? 2022 版權所有 ICP備案號：滬ICP備17004559號-5
