⚖️ **责任认定模糊化**：AI在医疗领域的广泛应用，尤其是在辅助诊断和医院管理方面，虽然带来效率提升，但也使得在发生医疗失误时，责任归属变得扑朔迷离。专家们普遍担忧，一旦出现患者不良结果，追溯和界定责任方将面临巨大挑战，这可能导致各方互相推诿。

💡 **证明过错的障碍**：患者在试图证明AI产品存在使用或设计过错时，会面临多重障碍。一方面，获取AI工具的内部运行机制信息十分困难；另一方面，也很难提出合理的替代设计方案，或者明确证明不良后果是由AI直接造成的。这使得患者维权之路更加艰难。

📈 **创新成本的增加**：AI在医疗领域的法律不确定性，包括责任认定的复杂性和诉讼过程的耗时，会显著增加AI创新和应用的整体成本。这种不确定性可能会阻碍新技术的研发和推广，影响整个AI医疗生态系统的健康发展。

🔬 **监管与实际应用的脱节**：许多临床AI工具尚未受到如FDA等监管机构的充分监督。即使在审批阶段看似可行，但AI工具在不同临床环境、面对不同患者、由不同技能水平的使用者操作时，可能会产生各种不可预测的情况，导致实际使用效果与预期存在巨大差异，这给评估和风险控制带来了挑战。

IT之家 10 月 15 日消息，据英国《卫报》13 日报道，多名专家警告，AI 在医疗领域的应用可能引发复杂的法律责任问题，当出现医疗失误时，责任认定可能变得扑朔迷离。

临床 AI 发展迅猛，研究人员已开发出多种工具，从辅助影像解读的算法到支持诊断的系统都有 AI 的力量介入。AI 也被应用于医院管理，从优化床位使用到改善供应链效率。

专家指出，AI 在有望带来多方面好处的同时也存在隐忧，包括工具有效性尚未充分验证，以及一旦患者出现不良结果，责任归属难以界定。

匹兹堡大学德里克・安格斯教授表示：“肯定会出现人们认为出了问题并试图找责任方的情况。”安格斯是去年由美国医学会杂志举办的 AI 峰会所形成报告的第一作者。报告不仅分析了 AI 工具的特点和应用领域，还讨论了其带来的法律等挑战。

哈佛法学院格伦・科恩教授是报告共同作者，他表示，患者在证明 AI 产品使用或设计存在过错时可能遇到困难。一方面很难获得工具的内部运行信息，另一方面也难以提出合理的替代设计或证明不良结果是由 AI 造成。科恩教授指出：“各方可能互相推诿责任，并可能因合同约定重新分配责任或涉及赔偿诉讼，这会增加提起诉讼的难度。”

斯坦福法学院米歇尔・梅洛教授是报告作者之一，她表示，法院能够解决相关法律问题，但早期处理过程耗时且存在不确定性，会增加 AI 创新和应用生态系统的整体成本。“这种不确定性会提高 AI 创新和应用的成本。”

报告还对 AI 工具的评估提出担忧，指出许多工具未受到如美国食品药品监督管理局等监管机构的监督。安格斯指出：“临床医生关注的是健康结果的改善，但监管机构未必要求提供证明。一旦投入使用，AI 工具在不同临床环境、面对不同患者、由技能水平不同的使用者操作时，可能会出现各种不可预测的情况。审批阶段看似可行的工具，实际使用效果可能大相径庭。”

IT之家从报道中获悉，报告还指出，评估 AI 工具面临多重障碍，这类工具通常需要临床使用后才能全面评估，而现有评估方式既昂贵又繁琐。安格斯强调，需要投入资金对医疗中的 AI 工具进行充分评估，建设数字基础设施是重点。他表示：“峰会讨论发现，评估最充分的工具往往采用率最低，而最普及的工具评估最少。”