WHO issues first global report on Artificial Intelligence (AI) in health and six guiding principles for its design and use

人工智能在衛生領域的日益使用給政府、提供者和社區帶來了機遇和挑戰

編譯自：2021 年 6 月 28 日 世界衛生組織

　　根據今天發布的世衛組織新指南，人工智能(AI)在改善全球醫療保健和醫學服務方面有著巨大的前景，但前提是將道德和人權置于其設計、部署和使用的核心位置。

這份題為“人工智能促進健康的倫理和治理”(Ethics and governance of artificial intelligence for health)的報告是由世衛組織任命的國際專家小組經過 2 年磋商的結果。

“與所有新技術一樣，人工智能在改善全世界數百萬人的健康方面具有巨大潛力，但與所有技術一樣，它也可能被濫用并造成傷害，”世衛組織總干事譚德塞博士說。“這份重要的新報告為各國如何最大限度地發揮人工智能的好處，同時最大限度地減少其風險和避免其陷阱提供了寶貴的指導。”

人工智能可以, 且在一些富裕國家已經被用于提高疾病診斷和篩查的速度和準確性；協助臨床照護；加強衛生研究和藥物開發，支持多種公共衛生干預措施，例如疾病監測、疫情應對和衛生系統管理。

人工智能還可以讓患者更好地控制自己的醫療保健，并更好地了解他們不斷變化的需求。它還可以使資源貧乏的國家和農村社區，在那里患者往往難以獲得衛生保健工作者或醫療專業人員，彌合獲得衛生服務方面的差距。

然而，世衛組織的新報告告誡不要高估人工智能對健康的好處，尤其是當這種情況以實現全民健康覆蓋所需的核心投資和戰略為代價時。

報告還指出，機遇與挑戰和風險并存，包括不道德地收集和使用衛生數據; 算法中的偏誤，以及人工智能對患者安全、網絡安全和環境的風險。

例如，盡管私人和公共部門在人工智能開發和部署方面的投資至關重要，但不受監管地使用人工智能可能會使患者和社區的權益屈服于科技公司強大的商業利益或政府在監督和社會控制方面的利益。

該報告還強調，主要以高收入國家個體收集的數據為基礎的系統可能不適用于低收入和中等收入國家的個體。

因此，人工智能系統應經過精心設計，以反映社會經濟和醫療保健環境的多樣性。應同時進行數字技能、社區參與和提高認識方面的培訓，特別是對數百萬衛生保健工作者，如果他們的角色和功能是自動化的，他們將需要數字識字或再培訓，他們還必須與可能挑戰醫護人員和病人決策和自主權的機器作斗爭。

最終，在現有法律和人權義務以及體現道德原則的新法律和政策的指導下，政府、供應商和設計者必須共同努力解決人工智能技術設計、開發和部署每個階段的道德和人權問題.

　　
六項原則 確保人工智能為所有國家的公共利益服務

　　為限制利用人工智能促進健康所固有的風險和最大限度地利用人工智能帶來的機會，世衛組織提出了以下原則，作為人工智能監管和治理的基礎:

1. 　　保護人類自主權（Protecting human autonomy）：在醫療保健方面，這意味著人類應該繼續控制醫療保健系統和醫療決策；應保護隱私和機密性，患者必須通過適當的法律框架給予有效的知情同意，以保護數據。 
2. 　　促進人類福祉和安全以及公共利益（Promoting human well-being and safety and the public interest.）。人工智能技術的設計者應滿足明確定義的用例或適應癥的安全性、準確性和有效性的監管要求。必須提供實踐中的質量控制措施和人工智能使用中的質量改進措施。 
3. 　　確保透明度、可解釋性和可理解性(Ensuring transparency, explainability and intelligibility)。透明度要求在設計或部署人工智能技術之前發布或記錄足夠的信息。此類信息必須易于獲取，并有助于就技術的設計方式以及應該或不應該如何使用技術進行有意義的公眾咨詢和辯論。 
4. 　　培養責任感和問責制( Fostering responsibility and accountability)。盡管人工智能技術執行特定任務，但利益相關者有責任確保在適當的條件下并由經過適當培訓的人員使用它們。對于因基于算法的決定而受到不利影響的個人和團體，應提供有效的詢問和補救機制。 
5. 　　確保包容性和公平性(Ensuring inclusiveness and equity）。包容性要求健康人工智能旨在鼓勵盡可能廣泛的公平使用和獲取，而不論年齡、性別、性別、收入、種族、民族、性取向、能力或受人權法保護的其他特征。 
6. 　　促進具有響應性和可持續性的人工智能?(Promoting AI that is responsive and sustainable）。設計者、開發者和用戶應在實際使用過程中持續、透明地評估人工智能應用程序，以確定人工智能是否充分、適當地響應期望和要求。人工智能系統的設計還應盡量減少對環境的影響并提高能源效率。政府和公司應解決工作場所的預期中斷問題，包括培訓醫護人員以適應人工智能系統的使用，以及因使用自動化系統而導致的潛在失業。 

這些原則將指導世衛組織未來的工作，以支持努力確保人工智能在醫療保健和公共衛生方面的全部潛力被用于造福所有人。

　　【原文】

https://www.who.int/news/item/28-06-2021-who-issues-first-global-report-on-ai-in-health-and-six-guiding-principles-for-its-design-and-use

編譯：肖明朝 重慶醫科大學附屬第一醫院

來源: 愛科技愛技術愛搞機