世卫组织：人工智能将为健康带来巨大希望，但监管是关键
Unsplash/Steve Johnson 隐私问题是人工智能处理个人数据的关键。
世界卫生组织今天发布了一份新的出版物，呼吁加强对医疗行业使用人工智能的监管，防止人工智能遭到滥用。
出版物强调，必须建立安全有效的人工智能系统，迅速向有需要的人群提供适当的系统，并促进利益攸关方，包括开发人员、监管机构、制造商、卫生工作者和患者之间的对话。
随着可用的医疗数据不断增加以及分析技术快速发展，世卫组织认识到人工智能有潜力通过加强临床试验改善健康结果；改近医疗诊断、治疗、自我保健和以人为本的护理；并补充卫生保健专业人员的知识、技能和能力。
例如，人工智能可以在缺乏医学专家的情况下发挥作用，解释视网膜扫描和放射学图像等。
严峻挑战
然而，在使用健康数据时，人工智能系统可能访问敏感的个人信息，因此需要强大的法律和监管框架来保障隐私、安全和诚信。
世卫组织总干事谭德塞说:“人工智能为健康带来了巨大希望，但也构成了严峻挑战，包括不道德的数据收集、网络安全威胁以及放大偏差或错误信息等。”
为了响应各国在负责任地管理快速崛起的人工智能卫生技术方面日益增长的需求，世卫组织强调了透明度和文档记录、风险管理以及外部验证数据的重要性。
谭德塞说:“这一新指南将支持各国有效监管人工智能，在治疗癌症、检测结核病等方面利用人工智能的潜力，同时最大限度地降低风险。”
复杂法规
欧洲的《通用数据保护条例》和美国的《健康保险流通与责任法案》等重要而复杂的法规带来了许多挑战，在应对这些挑战时，重点是了解管辖范围和关于同意的要求，以保护隐私和数据。
世卫组织表示，人工智能系统非常复杂，不仅依赖其构建代码，还依赖其训练所用的数据。加强监管有助于管理风险以防人工智能放大训练数据中的偏差。
人工智能模型可能难以准确体现人群的多样性，从而导致偏差、不准确甚至失败。
为了帮助降低这些风险，可以利用法规来确保报告训练数据所涉人员的性别、种族和民族等属性，并有意使数据集具有代表性。
报告强调，承诺保证数据质量，对于确保人工智能系统不会放大偏差和错误至关重要。