从医疗图像识别看算法伦理存在的不可避免及应对策略

Posted 2021-04-07 自然辩证法通讯

点击关注了解更多精彩内容！！

框架分析：

类似技术人工物的算法设计及其价值负荷

算法是什么，很难给出精确表征。只有给出相关核心概念定义，才能准确评估算法有无价值负荷。

针对决策支持程序算法所含价值判断的一般特征，可援引康德区分伦理的假言命令和绝对命令观点来澄清。前者关涉应该做什么的陈述，如“若想成为一富翁，你就不要学习哲学”。后者关涉“不管愿望或目标如何，它告诉我们应当做什么”的陈述。对两者的区分非探讨所有可能价值判断的逻辑空间，而是阐述其性质，因为在诸如辅助决策的计算机程序中可能遭遇这些价值判断。它们最可能被表征为假言价值判断，因为“想完成一具体目标，它们（假言价值判断）告知你应该做什么”。但假言价值判断的存在不必然要求这种产生建议的算法包含价值判断。当被单独运用时，这种底层算法完全价值无涉，多数情况下这类算法并非单独运行。

若持不同价值观的软件设计者能用不同理由设计一种算法，或为解决同一问题而选择不同算法，则算法必然价值负荷。这里可假定软件设计师面临的决策过程，多方面与设计其他技术人工物所面临的过程相似。如此，算法中的价值判断也多方面与其他技术人工物设计过程中的价值判断相似。

第一，设计者决定一个变量有一特定数值。

第二，某种变量可将一个（数）值作为评估设计目标实现程度的一部分。

第三，由上述可知，数学意义上种类II变量是种类I变量的函数：设计函数。但它们也是另一类变量的函数。

第四，一般地，设计函数非常复杂。即使知道种类I变量和种类III变量的值，得出种类II变量的值也几乎不可能。但可视它为大量更简单的函数组合。

四类变量表明了伦理与设计者之间关系，其中种类II变量可能反映设计者伦理观。如设计者规定自行车用可回收材料制造（反映可持续性价值），或由第三世界国家制造（反映地缘政治正义价值）。种类II变量有两个显著特征：必备条件和期望。必备条件是指必须为真的断言；期望与需要优化的变量相关。总之，这四类框架能够阐明设计中的权衡，帮助确定折衷方案，并对可能的设计替代方案提供洞见。此外，还可用这一框架来减弱或阻断对某类伦理立场（如绝对命令）的接受。如此，在人工技术物或算法等设计中需执行的是：1决定应主张哪些价值观；2用种类II变量显现这些伦理观。

案例分析：

医疗图像识别算法设计及其价值负荷

医疗图像技术旨在以准确方式在计算机中呈现人体生物结构，如人体器官和血液样本中的细胞，从而改善生物体疾病的诊断或治疗前景。这类算法引发的伦理问题之一是它带来假阳性假阴性结果风险。根据定义，每当算法触发其系统计算存在于数字图像中但实际不存在的某些事物（如病状细胞），就是假阳性结果。若类似算法无法识别图像结构但实际存在的某种事物，则是假阴性结果。

实际上，完全消除假阳性和假阴性风险几乎不可能。但若愿意接受大量假阳性结果，则会获较少假阴性结果。可设想存在这样一个设备，它能自动计算通过丛林中某地点的老虎数量。若制造一个简单计算穿过丛林的黄色物体的设备，就会得到较多假阳性结果，因为蜜蜂和香蕉等黄色物体都会触发这一设备。但若对什么算作阳性结果给予更保守标准，将设备设计为仅更大黄色物体被检测到，则可预期的假阴性数量会增加（如不易检测到新生小老虎）。

由前述可知，非物质类算法设计过程同自行车等物质类技术人工物设计过程大致相同。故可用前述通用设计框架来说明种类I变量的值如何受种类II变量影响而产生。图2是描绘人体心脏横截面的MR（MagneticResonance）扫描。为诊断可能病变，须在心跳周期各个阶段准确估算心脏血容量。血液和心脏肌肉组织之间差异是MR图像中灰度值差异。估算血容量先要确定图像的哪一部分着色为浅灰色（见图2“+”号部分），然后计算此浅灰色区域中像素数量。此为明亮与黑暗之间的分割。

鉴于视医疗诊断支持系统的算法输出为设计的人造物，可询问此例中种类II变量（客观变量）是什么。除临床测量过程中患者安全及医疗专家操作舒适性等一般情况外，我们可能希望诊断或自动诊断质量为“良好”。但良好的定义须更加精确，这正是假阳性假阴性问题值得观察之处。模棱两可情况下，假阳性或假阴性偏见可能很大程度取决于临界值或其他种类I变量（决策变量）。诚然可考虑“最佳方法是设计一种能完全消除所有假阳性假阴性结果的算法”，但下述避免假阳性假阴性风险分析表明，这一选择无法可行。

理解图像中看见的东西与患者体内真实存在的东西（或被检查组织的微观切片）之间关系，需要彻底理解在向物理数据转换（即变成一组彩色像素的转换）时应用的各种算法步骤。这种转换含过滤器选择（涉及可能显著影响图像的最终“外观”值的变量，与某些类型异常的显著特征）和可能的几何算法（如轮廓线、分割、跟踪等）。这些过滤器和算法必须在考虑到某些目标情况下进行选择。但因实际原因，这些目标通常无法通过减少获得假阴性的风险来被确切表达。

设计层面上类似图像识别的算法必然价值负荷，问题是哲学层面如何给出辩护理由。

哲学分析：

行动者职能和相对绝对价值判断视角

假设具有先验性质但存在于经验世界的拉普拉斯小妖，能提供理想科学可能提供的所有信息或选择方案，但它仍需选一最佳方案。这一选择便是人类须承诺的无条件之绝对价值判断，类上帝性质的小妖无法减轻人类这一责任。因“证据对理论的不充分决定性”问题的存在，故仍需评估替代选择的各种可能后果。这就需要采用相关评价标准，但经验事实无法决定它们，算法决策也是如此。至于决策规则的制定，须满足两条件：一是提供事实信息（如病变）、可行方案及可能结果或发生概率。二是须有一效用数值说明附于不同的可能结果（如假阳性假阴性）。在此基础上才能确定最优选择。

如果在不考虑可能结果的实际应用（医生在算法决策中实际应用却优先于求真性）而仅涉及纯科学研究（如科学家的工作）中接受假设的决策规则时，似乎能获得关于世界一定目标的客观性。但须强调的是，若要形成一个（情感上可靠美学上满足的）信仰体系或世界观（如“健康”、“病态”类绝对观念），则坚称在我们接受的信仰和经验证据之间像科学主义那样高度相符完全无合理性，况且还存在由“公开可确定性证据”决定的“客观检验和确证标准”不得不被其他可承诺标准取代的情况。

另从科学实践哲学视角看，算法价值负荷辩护可从价值渗入主客体相互建构中、重释价值涉入的科学合理性、主张“有意义的真理”和重塑客观性等方面另文讨论。

熵减分析：

算法伦理预防原则和伦理学理论诠释

如何解决算法价值负荷带来的伦理问题（如假阳性假阴性结果风险）?解决方案是：一是提供预防原则及其认知策略分析；二是明晰相关伦理学理论在算法伦理判断选择中的指导作用。

科学家则普遍认为，避免假阳性比避免假阴性更重要。这是因为科学知识大多呈累积式：增加关于世界像什么的新信念到一系列已有信念中，新信念辩护通常取决于旧信念复杂程度。若接受太多假阳性信念，则可能会处于未来的研究被假阳性认知指向错误方向的境况。故从科学认知而非医疗诊断角度出发，一个更保守的方法（如假阴性优于假阳性），从长远看更可能成功，因为它使我们更可能不会将新信念建立在旧的却错的信念基础上。

然而，在讨论医疗图像识别算法时，我们并不清楚应采用在认知上相同的值来指导科学研究。其原因是，当不会出现灾难性错误时，错误地相信某些东西是安全的。

比较而言，试图收集有关患者人群统计数据的科学家可能使用相同软件，但他们通常会选择更严格或更保守设计的算法。这将带来更多与后果论或功利主义决策相一致的结果。此方案强调其统一的科学数据保持逻辑上真实有效和完整，因为从长远看这种价值选择通常会带来更好结果，尽管个别患者可能不得不在这一过程中受苦。可见，这种价值选择符合后果论或功利主义观点，即社会整体福祉应是关注焦点，而非个体权利或需求。因此在后果论方案中，以惠及绝大多数人的科学洞见为最优先。亦即科学结果应尽可能避免假阳性，故会接受较多假阴性。

选择分析：

算法伦理价值选择由谁决定

共识是软件设计师应尽可能将伦理决策留给用户。亦即用外部道德判断转换器（算法使用者）在偏好假阳性或偏好假阴性之间进行选择，且在这种情况不可能时，算法中的伦理假设至少透明且易被用户识别。设计师还须将伦理价值判断留给用户来确定。

一些算法本质上必然价值负荷的主张已给出论证。不可否认，诸如被用于将细胞分类为患病与否的算法，迫使其设计者在有争议的伦理问题上表明立场，如是否宁愿更偏好假阳性错误而不是假阴性错误。这一伦理选择问题虽在伦理学家之间存在分歧，但算法存在价值判断的伦理问题不可避免。为解决算法设计过程中价值选择难题，建议算法设计者应尽可能将伦理问题留给用户，若不可行，算法中伦理假设至少透明且易被用户识别。进一步地，基于算法的科学正因为伦理价值上“旨趣（interest）多样性”而显现出认知多样性。

 

w9rtrt

本文节选自《自然辩证法通讯》第41卷第8期

 

有趣的灵魂在等你

 

长按扫码关注