摘要

人工智能（AI）的使用已经改变并增强了世界各地的几个行业，如教育、研究、制造和医疗保健。人工智能在创建新的和增强的应用程序方面的潜力，可以使患者和医生受益，这引起了人们的兴趣和热情，特别是在医疗设备软件（MDS）环境中。

虽然，在MDS中采用人工智能也引起了监管机构和政策制定者的担忧。人工智能的复杂性挑战了监管机构设定的标准要求，特别是在传统MDS和AI之间存在差异的背景下。此外，人工智能在现实环境中持续学习以获得最佳性能的独特能力也可能给患者和医生带来潜在的伤害和风险。

介绍

人工智能（AI）正在彻底改变许多科学和技术领域。技术的进步已经改变和发展了人工智能的定义，给科学界带来了新的讨论，在某些情况下，也带来了混乱。简单来说，人工智能是指模仿人类推理解决问题的机器，尽管人工智能的定义也被用作涵盖其他技术的总称，例如机器学习（ML）和深度学习（DL）。

近年来，人工智能经历了巨大的增长。2020年，全球 AI 市场规模增长了37%。尽管到2025年底，全球人工智能市场规模可能会略有放缓，但欧洲市场将以29.6%的复合年增长率增长。

人工智能的大规模增长反映了机构和企业对人工智能的热情。这项技术给社会带来的进步已经改变并增强了全球广泛的行业，如教育、制造和医疗保健。然而，这项技术的采用也带来了许多挑战。

人工智能在医疗保健中的重要性

人工智能在医疗保健领域的前景旨在改善和创新医疗实践、研究和管理等不同领域。医疗实践中高价值AI应用的一些例子可能是更容易检测疾病，对紧急事件采取快速行动，提高诊断信心，个性化治疗，药物发现和危重病症管理。必须指出的是，如果没有数据，这些应用程序都是不可能的。

尽管发现医疗保健拥有全球最小的数据领域之一，2018年，该行业将经历快速增长，到2025年底将达到36%的复合年增长率。这种增长的可能原因是由于数字护理，医疗保健分析的进步以及成像技术行业的进步。从这个角度来看，人工智能在医疗保健领域将变得越来越重要，以利用每天产生的大量医疗数据，从而使该行业能够为患者和医生提供更好的帮助。

在医疗设备软件中（MDS）背景下，人工智能已被用于改进医疗产品并处理大量数据以进行解释。AI可分为两种主要类型的MDS软件即医疗设备（SaMD）和医疗设备软件（SiMD）。

根据国际医疗器械管理论坛（IMDRF）的定义，SaMD是单独用于一个或多个医疗目的的软件，它不一定是硬件的一部分才能实现预期用途。另一方面，SiMD是医疗设备（MD）的一部分，这意味着该软件用于协助MD执行预期用途。

在欧洲，医疗器械法规（MDR）通过使用术语 MD 涵盖了术语 SiMD 和 SaMD，AI可以分为SiMD或SaMD，通常称为AI支持的MD。

美国食品和药物管理局（FDA）从222年到2015年批准了2020个AI-MD，该机构表示，这些设备中的大多数都被归类为支持AI的SaMD。同时，在欧洲，公告机构在2014年至2015年期间批准了2020个包含AI的MD。

一般而言，MD行业与飞机、自动驾驶汽车和核工业一样，被归类为安全关键行业，因为如果出现问题，即严重伤害甚至潜在的生命损失，MD行业在伤害方面的后果是安全的。缺乏管制和控制的历史例子导致了毁灭性的后果。

人工智能在医疗保健领域带来的挑战

在MDS中采用人工智能挑战了传统的监管框架。制造商正面临着与人工智能在MD中的集成相关的新斗争。在本文中，探讨的挑战涉及传统MDS和AI之间的各种特征，透明度和术语。

首先，研究人员笼统地讨论软件开发生命周期（SDLC），以说明AI与传统MDS之间的差异。随后，他们将自适应AI算法作为一项独特功能引入，并讨论了由此带来的挑战。最后，透明度和术语被视为挑战，尽管正确实施可以提高AI-MD的安全性和可信度。人工智能在医疗保健中的结合也放大了公平和偏见等伦理和社会问题。

与人工智能适应性相关的风险

传统MDS和AI-MD之间的另一个不同特征是学习能力。在高层次上，FDA将两种类型的算法分类为：锁定和解锁。对于那些标记为锁定的算法，一旦部署和批准 MDS，这些算法就不会随着时间的推移重新训练；因此，这些算法在馈送相同的输入后始终提供相同的输出。

但是，已解锁算法是那些旨在在上市后条件下持续学习的算法，例如，在自动化过程中从真实世界的数据中学习。换句话说，锁定算法和解锁算法之间的本质区别在于，解锁算法是自行升级的，即软件，而锁定算法是通过新的软件版本通过人为干预升级的。

在IMDRF的《支持机器学习的医疗设备：关键术语和定义》一文中，解锁算法的学习过程称为连续学习，而锁定算法的学习过程称为批量学习。必须澄清的是，一些AI-MD也被归类为锁定设备，因为制造商无意在操作期间重新训练模型。

监管机构和政策制定者已经提请注意人工智能的这种能力，因为它们在传统MDS中具有独特的地位，以及通过持续学习优化性能的好处，保持了人工智能模型的预测准确性。

然而，监管机构也认识到人工智能模型从这种随机行为中存在的潜在风险。从实时数据中自主和持续学习可能会指示AI本身以不同的方式执行，这一事实可能会带来不可预测的后果，并可能伤害和危及患者，因此，要求制造商再次提交上市前提交的想法。

人工智能给医疗保健带来的挑战，包括小节中提到的差异，产生了对AI-MD的新的适应性SDLC框架的需求。此外，这个新框架必须符合MD目的的监管要求，以确保从开发之初就具有可信和安全的AI设备。

此外，由于人工智能算法的适应性，这可能会挑战其他监管要求，例如管理流程、风险和质量管理、临床评估、制造设施、控制设计和上市后监督。特别是，透明度在医疗保健等安全关键环境中实施解锁算法方面发挥了关键作用。

来自监管机构的最新技术

在欧洲，医疗器械指令（MDD）被名为医疗器械法规（MDR）的新版本所取代。这项新法规于2021年3月颁布，是对医疗器械行业技术进步的回应。一项研究重新审视了MDR，以验证新变化是否会提高AI-MD的性能和安全性。尽管文件中没有提到AI，但由于软件的新风险分类规则，MDR可能会提高大多数AI-MD的性能和安全性。

作为对利益相关者反馈的回应，FDA目前正在努力扩大修改清单，该清单将包含在ACP的新指南草案中。该列表中的另一点与用户的透明度有关，其中FDA计划通过公共研讨会和制造商标签培训来提高透明度。

IMDRF 于2022年9月发布了最终文件《支持机器学习的医疗设备：关键术语和定义》。本文件是监管机构小组努力协调MDS行业中ML技术相关术语的结果。本文档的基线是标准 ISO/IEC DIS 24027和 ISO/IEC TR 11，分别与 IT 和 AI 术语和偏差相关。

简而言之，该文档涵盖了偏见的定义，持续学习，学习方法的类型以及与测试和培训过程相关的术语。IMDRF还包括解锁AI-MD的两种类型的更改：AI-MD和数据AI-MD环境。AI-MD的未来更改是指对模型的修改。AI-MD的一些变化包括使用新数据重新训练过程，对超参数进行额外调整，以及使用不同的AI方法和算法训练模型。