老游杂谈㉘｜应警惕人工智能带来的潜在风险

Posted 2021-04-26 医师报

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了老游杂谈㉘｜应警惕人工智能带来的潜在风险相关的知识，希望对你有一定的参考价值。

人工智能技术是把双刃剑，它不仅能为医疗保健带来前所未有的益处，还有可能导致医疗伤害，而其中真正的威胁来自于人类自己。我们必须承认，人工智能系统虽然功能强大但并非绝对可靠，很多这类系统不仅难以抵御恶意攻击，而且在异常环境使用时常会失灵。因此，我们在大量使用人工智能系统的同时，应该警惕它给医疗工作带来的潜在风险。

我们知道，就获取数据而言，人工智能比人工操作的标准化程度更高、误差更小，能帮助我们获得更大量、标准化且具有可比性的数据；就分析数据来看，相比于人类记忆和理解力的局限性，人工智能可以更为精准并有效地收集、分析、整合数据，并有助于发现相应的规律。在当前的医疗工作中，研究人员已经将人工智能应用于改进临床的诊疗问题。在医疗操作精度要求比较高的情况下，机器人具有明显优势。如在人工授精时为了把精子准确地送入卵子中，机器人操作的效率明显优于人工操作。人工智能通过阅读和分析影像资料可以诊断皮肤癌，也可用于胃肠道电子内镜和胶囊内镜进行早期癌症筛查的辅助阅片。尽管人工智能的复杂性赋予其更大的能力，但也导致了更多难以预见的潜在风险。从功能实现的角度来讲，人工智能在迭代过程中寻找设计上的漏洞比实现人类为其设定的预期目标要容易得多，它们常常给人类带来惊喜或是恐吓。

然而，人类智能的形成是基于知识而非数据，目前人工智能和真实的人类智能相比仍存在云泥之别。例如美国一台存在软件缺陷的放射治疗仪，由于严重的技术故障，导致工作人员对一位宫颈癌患者连续实施了5次放疗，提前终结了她的生命。再如手术机器人，在标准化方面，它的精准度比普通医生要高；但人体是十分复杂的，手术中会遇到各种各样的状况，尤其是遇到复杂病灶和罕见情况的处理时，机器人就明显逊色于经验丰富的医生。因为医者的这些能力和判断都是基于经验知识的，而非简单数据。如果是人做手术，他很清楚自己能力或技术的边界。对自己难以胜任的问题，可以及时向高手请教，或者邀请其他科室进行会诊。但如果是机器人自主做手术，它完全按照预先设定的程序来运行，这个程序无法包含所有可能发生的情况，机器人也不会清楚自己能力和技术的边界。此外，如果手术完全交由机器人来判断和决定，一旦手术失败，谁将承担责任？这也是值得我们关注的伦理问题。

毋庸置疑，人工智能随着时代应运而生，其产生的绝大多数影响都是积极的，有助于通过诊治疾病以呵护人类的健康。但正如任何新技术一样，人工智能也有潜在的风险。只有勇敢直面风险，才能实现人类创造人工智能以改善生活的初衷，否则只会带来无尽的烦恼。