1、- 1 -2021 年年 12 月月 27 日日第第45期期总第总第 518 期期人工智能和数据伦理人工智能和数据伦理：从一般性原则到指导性原则从一般性原则到指导性原则【译者按【译者按】2021 年 8 月， 大西洋理事会发布 人工智能和数据伦理：从一般性原则到指导性原则研究报告。报告认为，人工智能和大数据运用面临着保证公平公正、隐私、自主、透明度和可说明性方面的挑战。报告分析了从一般性伦理概念和原则过渡到有指导性和实质性内容原则的重要性及难度，提出了实现公平公正性的指导性举措，包括从优化组织结构和治理模式、拓展视野与合作方式、加强培训与教育、注重伦理的应用实践、构建人工智能和数据伦理社区等。
2、智库世界工业研究所对该报告进行了编译，期望对我国有关部门有所帮助。【关键词】【关键词】人工智能人工智能数据伦理数据伦理指导原则指导原则- 2 -一、一、概述概述研究人员、企业、政策制定者和公众已普遍意识到，人工智能和大数据的运用面临着公平公正、隐私度、自主性、透明度和可说明性等方面的挑战，为此，人们越来越多地希望各种组织能够解决这些问题，但是现阶段仍缺乏对实际行动强有力的监管指导。为了应对上述问题，私营企业、非政府组织和政府实体等许多组织已经开始制定人工智能或数据伦理框架和原则，表明其致力于解决人工智能挑战的承诺和决心，最重要的是，如何切实推动这些框架和原则落地。确定一套伦理概念并利用它们制定
3、一般原则是阐明人工智能和数据伦理的关键组成部分。此外，已经制定的许多框架之间存在相当大的趋同性，虽然这些框架的重点可能是个人、社会或系统（见表 1），但它们都将围绕核心概念相互融合。目前基本伦理概念已达成共识，这表明我们在理解负责任的人工智能和大数据开发和应用方面已经取得进展。表 1：规范概念个体导向个体导向社会导向社会导向系统导向系统导向隐私公平公正透明度自主民主可解释性包容性/可及性社会福祉责任性人工智能和数据伦理规则围绕若干伦理概念相聚合，其中一些概念重点关注个人利益- 3 -和权利，如保护隐私、促进自主和确保可及性；另一些概念则聚焦社会问题，如促进公平公正、维护民主制度和提升社会福祉；
4、还有一些概念侧重于技术系统的特性，如系统如何实现充分的透明度或可解释性，从而确保决策的清晰解读以及责任划分。不过，阐明价值观、伦理概念和一般原则只是应对人工智能和数据伦理挑战的第一步，而且在很多方面也是最简单的一步。相关声明文件虽然看似雄心勃勃，但实际上采纳成本很低，只能算是口头承诺。更艰巨的工作包括：具体说明概念、原则和承诺的实质性内容，即阐明公平公正、隐私度、自主性、透明度和可解释性在特定环境中的实际内容和要求；培养专有能力，在实践中实现这些概念、原则和承诺（各项任务的内容及其相互关联性见表 2）。完成这些任务不仅需要纵向的努力和资源，还需要多学科专业知识的相互配合。 在此过程中， 各个组
5、织需要确定行动的优先次序，修改现有的组织流程和结构，这也是落实指导原则的关键步骤。如果做不到这点，任何承诺或原则都只能是“伦理洗白”。人工智能和大数据的开发和应用将不可避免地存在伦理问题，面对这种困境，政策制定者、员工、消费者、客户和公众将认为相关行业未能充分履行自己的承诺。表 2：从价值观到可行性承诺和评估标准伦理伦理根据规范内容，通过治理来指定和满足价值观的工作治理治理在整个组织内部指定规范指导并根据具体情况加以应用的能力规范内容规范内容将基本价值观和核心概念转化为指导行动的具体规范和承诺的实施过程- 4 -基本组织价值观基本组织价值观核心概念核心概念原则原则承诺承诺规范规范基础基础实施实
6、施定定义义指出需要促进和保护的内容体现或代表基本组织价值观说明尊重概念和实现价值观的一般规范或指导原则描述遵守将要采用或实现的原则的具体方法提供衡量承诺实现水平的标准示示例例尊重个人， 诚信为本， 客户至上隐私、平等、公平公正、 自主、 民主、 透明及可说明性不歧视、保护、 包容、 平等、 正直行事无差别考量、资格推定、 让利于顾客是否可以解释人工智能决策， 不同群体实现客户服务需要多久本报告旨在实现以下目标：说明从一般伦理概念和原则到可以指导行动的实质性内容（以下称为规范内容）转变的重要性和复杂性；对相互关联的两个重要核心伦理概念，即公正以及透明度进行详细讨论；指出从一般伦理概念和原则转变为
7、更具体的规范内容并最终实施这些内容的策略。“规范内容规范内容”定义定义“规范”一词共有两种用法。一种是作为描述性词语，用于说明行为特点； 另一种是作为伦理性标准， 用于规定应该做什么。通常情况下，应该做什么（规定性内容）与当前正在做什么（说明性内容）存在差异。人工智能和大数据的伦理规范及广泛运用需要有效的指导原则，因为目前的许多做法都存在问题。例如，在人工智能和大数据的开发和使用中，应避免存在长期歧视性做- 5 -法和不平等对待。因此，规范内容指的是关于应该做什么样的指导。相比于单纯描述当前正在做什么，规范内容更是针对个人、团体和组织应该做什么所制定的合理标准、原则和实践。规范内容（从伦理和规
8、定的意义上来看）最终基于社会和组织价值。本报告研究的则是将这些一般价值转化为具体的可行性指导和承诺的过程。因为具体的原则和承诺与情境密切相关，而且不同的价值观有时会彼此矛盾，所以这一过程并非易事。二、案例分析：生物伦理学中的知情同意二、案例分析：生物伦理学中的知情同意对现有案例的反思有助于说明从一般伦理概念向指导行动的规范内容转变过程中所面临的挑战。 知情同意 （informed consent）被广泛认为是医学伦理临床实践和研究的重要组成部分。但我们将要反思这一原则从何而来，有何含义以及实现这一原则需要什么。知情同意可以保护个体的自主权，因此被视为医学和人体研究的伦理实践要求。尊重个体的自主
9、性意味着不操纵、不欺骗。自主权包括有权选择是否参与研究试验或接受医学治疗。知情同意是实际操作中尊重个人自主权的主要方式。那么，在实践中满足知情同意标准的要求是什么？当明确表示知情同意时，必须满- 6 -足三个主要条件：披露、理解和自愿（见表 3）。披露是指向患者、研究对象或其代理人说明具体情况，为他们将要作出的决定提供清晰、准确的相关信息。理解是指以患者、研究对象或其代理人能够理解的方式或形式向其呈现信息。自愿是指患者、研究对象或其代理人在没有不当影响或胁迫的情况下作出决定。披露、理解和自愿三个主要条件本身必须具备可操作性，这也是机构审查委员会、医院伦理委员会、专业组织和生物伦理学家的工作。他
10、们负责制定能够满足知情同意条件的最佳实践、标准和流程， 例如何种信息需要提供给潜在研究对象； 对患者来说，什么程度的认识才构成理解；以及医生如何在提供专业意见的同时不对患者的决定产生不当影响。此外，标准和最佳实践可以且必须根据具体情境而定。例如，急诊和住院肯定采取不同的标准和最佳实践方式。知情同意原则在医学和研究中的应用已长达几十年，但为应对新问题、符合新重点和适应新情境，知情同意原则一直在不断改进，以确保能够保护个人自主权。知情同意原则旨在保护自主权的价值，表达对个人的尊重，而对知情同意原则的普遍承诺只是一个开始。我们必须清晰地阐明和实施这一原则，以使其在实践中发挥有效作用。人工智能和数据伦
11、理原则也是如此。表 3：在医学研究中尊重个人- 7 -基本核心价值观基本核心价值观核心伦理概念核心伦理概念原则原则承诺承诺说明说明尊重个人自主知情同意披露理解自愿维持研究对象的同意情境，汇报独立审查员的整体发现在临床医学和医学研究中，最基本的价值观是尊重个人，即尊重病人和研究对象，但若要弄清实现这一价值观的实际需求，就必须对其加以明确和落实。在医学中，尊重个人被理解为赋予个人自主选择权，这就需要患者或研究对象具备知情同意权。生物伦理学家、临床医生和研究人员已经在披露、理解和自愿等某些选择条件下，通过一系列具体实践，比如用病人的母语向其披露信息，保护研究对象的知情权以及清晰表述相关风险信息等，实
12、现自主知情同意，从而实现对个人的尊重。生命伦理学中的知情同意案例为理解人工智能和数据伦理从一般伦理概念到实践指导的挑战提供了一些经验教训：从一般伦理概念（如公平公正、可解释性、隐私）到实践指导，首先需要明确规范内容（如明确一般原则并提供适合具体情境的操作流程）；指定规范内容通常需要确定旨在保护或促进知情同意的基本价值观；一般原则在实践中的具体要求可随具体情境不同而存在显著差别；一般伦理概念或原则的实施通常需要整合技术、伦理，及具体情境等各种专业知识；由于各种不可预测的新因素经常出现，我们需要在组织结构和实践的支持下，不断监测、评估和改进原则的执行流程和应用实践。基本核心价值观基本核心价值观核心
13、伦理概念核心伦理概念原则原则承诺承诺说明说明人工智能和数据伦理包括明确基本价值观和核心伦理概念，明确规范内容（一般原则和具体情境下的原则实施流程）以及在实践中的实施。图 1：规范内容指定流程下文将重点讨论相互关联的人工智能和数据伦理概念（公平公正和透明性）从核心概念和原则到实施的复杂性。- 8 -三、人工智能和机器学习中的公平公正三、人工智能和机器学习中的公平公正人工智能与数据伦理中的公平公正问题人工智能与数据伦理中的公平公正问题公平和公正被广泛认为是人工智能和数据伦理的关键组成部分。其中一个原因是，许多案例已经表明，机器学习和自动决策系统会导致偏见、歧视或其他不平等的结果。比如，人工智能招聘
14、广告系统会复制业已存在的种族、性别歧视及其他因素；医疗情景下的人工智能系统为非裔美国患者分配的风险评分低于白人患者，导致非裔患者获得日常护理或紧急护理的机会更低；面部识别系统存在种族偏见等。公正在人工智能和数据伦理中是一个至关重要的伦理因素，这已成为共识。机器学习、数据分析以及人工智能的应用至少不应加剧现有不公正现象或引发新的不公正现象。此外，人工智能/机器学习有可能通过发现和纠正当前决策系统中 （通常是无意的）存在的偏见和歧视来减少不公平现象。“公平公平”与与“公正公正”的含义的含义在围绕人工智能和数据伦理的讨论中，“公平”和“公正”经常互换使用，这是为了囊括其包含的所有因素。当然，这些术语
15、有时也拥有更具体的含义。如在研究这些问题的计算机科学家看来，“公平”通常指群体之间某种形式的平等。举例来说，如果一个算法系统在受保护群体中具有相同的准确率或假阳性率，- 9 -那么这个系统就是“公平的”。一个常见的问题是，这些形式的公平中的哪一种是在该情景下恰当的公平操作（因为通常不可能同时实现多种形式的公平）。在制度背景中，“公平”通常用于特定情境中的处理过程，而“公正”是指构成该情境的制度特征，如果系统缺乏公正性（以有利于某些团体而不利于另一些团体的方式组织系统），属于该系统的流程（如贷款或刑事司法）将是不公平的。总之，“公正”的概念存在复杂性，在不同的情境中可以指代不同的事物。为了确定公
16、正在人工智能和数据使用具体情境中的要求，如在决定贷款申请、社会服务获取或医疗优先级时，有必要明确规范内容和潜在价值。只有这样才有可能说明具体情况下的需要，以及如何（或在何种程度上）在技术和科技社会系统中实现公正。（一）公正的价值和形式（一）公正的价值和形式公正包含的基本价值是人的价值和政治地位的平等。该领域关注的是如何按照这些价值观组织社会、政治、经济以及其他体系和结构。若法律、制度、流程或算法未能体现这些价值，其便失去了公正性。 因此， 最普遍的公正原则就是所有人都应在社会、经济和政治制度以及流程中享受平等的尊重和重视。这些核心价值观和公正的普遍原则在很多方面与社会结构和- 10 -制度相互
17、关联。因此，如表 4 所示，我们拥有一套更加具体和多样的公正原则。表 4：公正原则程序程序分配分配认知认知非歧视非歧视制度或决策流程不应对某些群体存在偏见。平等享有平等享有所有人应拥有享受相同/相似福利和服务的权利。平等对待平等对待无论属于何种群体，任何人都应被平等对待。机会平等机会平等所有人应拥有获得成功 （如教育、社会或经济）的平等/相似的机会。利益分享利益分享为集体事业作出贡献的所有人都应有权分享集体成果。准确代表准确代表人们或其团体不应被误解。参与平等参与平等所有人应在社会和政治决策情境和流程中享有相似权利。良好地位良好地位所有人应享有较好（或起码体面）的社会和经济地位。包容包容人们或
18、其团体（及其利益）不应被忽略或排除。劳有所得劳有所得人们的社会和经济地位能够反映其努力和贡献。弱势群体优先弱势群体优先实践和政策应优先考虑最弱势、最孤立无援或最需要的人。补偿性公正补偿性公正已经发生的不当行为造成的伤害应得到补偿或解决，从而避免产生进一步的伤害或未来的不利现象。每一条原则均涉及社会、政治或经济体制和结构，其中部分原则涉及体系运作流程（程序公正），部分原则关注结果（分配公正），还有部分原则关注个人感受（认知公正）。虽然促进公正的方法多种多样，但不公正现象仍不可避免。公正原则在各种具体情境中都非常重要。如机会平等在中小学教育的讨论通常至关重要；参与平等在政治环境中意义重大；在某些社
19、会服务情境中，优先考虑弱势群体影响重大；劳有所得在创新环境中则不可忽略。有关人工智能或大数据的公正原则，- 11 -最需要考虑的不是原则的正确性或重要性，而是在何种情境或情况下最适用何种原则，及在这些情境或情况中，这些原则的需求或要求是什么。（二）人工智能与数据系统中的公正（二）人工智能与数据系统中的公正当某个组织承诺在人工智能和数据实践中维持公正时，它承诺的到底是什么？在决定何种正义原则有效或优先时，情境至关重要。因此，要明确承诺意义（即明确规范内容），第一步是确定对人工智能或数据系统的工作内容或操作环境至关重要的公正原则。 在此之后， 相关公正承诺才能有效发挥作用并付诸实施。毫无疑问，法律
20、合规（例如关于非歧视原则的法规）与明确最突出的公正因素存在关联，但正如上所述，仅仅遵守法律并不足以落实公正原则。阐明相关公正原则还需要考虑组织使命，所涉及的产品和服务类型，产品和服务对群体和个人产生影响的模式，以及组织对运作范围内出现的不公正现象原因的理解。对识别这些问题的有益做法往往包括反思类似案例，及仔细考虑对人工智能、大数据和自动决策的各种担忧。当再次考虑前面讨论的一些问题案例（参见人工智能和数据伦理中的公平和公正问题）时，我们会发现其中一些案例，如量刑和就业案例，提出与机会平等和待遇平等有关的问题；其他案例，如面部和语音识别相关案例，涉及准确代表和参与平等原则；还有一些案例，如医疗保-
21、 12 -健案例，涉及参与平等、待遇平等以及弱势群体优先、有补偿的公正和利益考虑。在此，我们假设两个简化示例私人金融服务公司和公共社会服务组织来说明这一点。私人金融服务公司和公共社会服务组织拥有相同的基本价值观（人们拥有平等的价值观和政治立场）和核心伦理观念（公平和公正），但由于算法系统的功能、制度背景和相关社会因素，它们在如何说明、实施和执行这些基本价值观和核心伦理观念方面存在分歧（见表 5和表 6）。表 5：私人金融服务公司基本核心价值观基本核心价值观核心伦理概念核心伦理概念原则原则承诺承诺说明说明人们拥有平等的价值观和政治立场公正公平非歧视对待平等参与平等避免基于无关特征的差别考虑或对待
22、鼓励来自不同群体的申请；申请人有知情权；具备完善的上诉、报告及审查。试图实现公正和公平的金融服务公司必须致力于实现非歧视、平等待遇和平等参与。如果因为服务适用性之外的原因而采取差别性考虑、对待或参与限制，这些就无法实现。为防止出现这种情况，金融服务公司可鼓励来自不同群体的申请，要求向被拒绝服务的申请人作出解释，并参与定期审查和报告过程。类似这些措施将有助于在实践中促进公平和公正。表 6：公共社会服务组织基本核心价基本核心价值观值观核心伦理概核心伦理概念念原则原则承诺承诺说明说明人们拥有平等的价值观和政治立场公正公平非歧视参与平等弱势群体受益无差别考虑或对待；资格推定；可及性解释、上诉与审查；援
23、助；主动帮助；整- 13 -合其他服务因为存在相互关联的多种公正因素，所以经常需要对其进行权衡。例如，优先考虑最弱势或长期处于弱势的群体有时可能涉及放弃待遇平等原则；实现机会和参与平等有时可能需要在劳有所得原则方面做出妥协。因此，至关重要的是确定所有与此情况相关的公正原则；原则识别的过程包括最受影响的群体；尽可能全面地考虑所有实施原则；任何妥协均能够基于其他公正因素的相关情境重要性证明其合理性。再犯预测与明确适当公正概念的重要性再犯预测与明确适当公正概念的重要性COMPAS 再犯预测算法被广泛提及， 在预测白人和黑人的再犯机率时， 预测系统的准确性大致相当， 但是当系统出现错误时，错误类型却有
24、所不同：系统会高估黑人的再犯率，低估白人的再犯率。这是因为系统使用的培训数据反映的是历来对少数族裔社区的过度监管。因此，虽然该算法在某种意义上实现了对一项参数的平等对待（即预测中的同等准确性），但未能考虑到在此情境下更重要的公正相关原则（即过高估计再犯率），也没有考虑到补偿性和代表性因素等其他相关公正因素。将公正原则纳入机器学习、数据分析和自主决策系统的严格算法存在局限性，这主要是因为公正相关原则多种多样，需要根据具体情境确定哪些原则是相关原则，哪些原则需要优先考虑。- 14 -首先，不存在具备约束性的、优化的或实用的单一性一般公正原则，也不存在一系列等级有序的公正原则。相反，特定情境的专业性
25、和伦理敏感性对于确定公正原则需求至关重要。在一种情境中以密切关注公正原则的方式设计和实现的系统在另一种情境中可能无法体现公正原则，这是因为两种情境中公正原则最显著的方面可能不同。其次，即使已经确定相关公正考虑因素，也会缺少严格的算法方法将公正原则完全纳入决策。如可能存在数据约束；缺少可用的必要数据；技术限制，如相关类型的公正因素在数学上或统计上不可表示；流程限制，如公正因素要求人们对决定负责。因此，我们不得不提出以下问题：公正因素如何并在何种程度上可以通过算法得以实现？在许多情况下，在人工智能中实现公正需要开发基于公正原则的技术系统。人工智能系统可为大学录取决策提供支持，或为专业医疗人员提供诊
26、断支持。这些系统甚至有助于减少这些过程中出现的偏见，但不可能复制或替代该过程。且出于流程、认可或相关公正原因，或者因为尝试使用或收集必要数据会出现问题，这些过程可能完全拒绝使用人工智能或大数据方法，即使此类方法更为准确或高效。如即使有可能建立更准确的（在有罪/无罪判定方面）算法系统，为了实现公正，刑事司法系统仍然需要陪审员。对公正人工智能的承诺包括接受- 15 -人工智能方法有时可能存在不公正。因此，除技术能力和专业知识外，致力于实现公正的人工智能和数据分析的组织需要强大的组织能力和流程来实现承诺，不能完全依赖技术解决方案或在其他情境中制定的标准。人工智能和大数据中的公正：关键要点人工智能和大
27、数据中的公正：关键要点公正基于所有人拥有平等价值和政治地位的基本价值观。人工智能和数据分析不应引起或延续不公正现象，而应尽一切努力促进公正原则的实现。明确人工智能中公正的明确规范内容，即公正承诺意味着什么，需要清楚地阐明必须告知自动决策系统的公正因素或原则。公正原则的需求多种多样，并且和具体情境密切相关。最重要的公正原则和因素通常取决于组织的使命、 产品/服务以及该原则适用的情境。确定最为突出的公正原则和因素需要了解与具体情境相关的专业知识，如人工智能/数据伦理专业知识、组织治理以及技术和技术-社会系统专业知识。同样，遭遇不公正的人员的观点也至关重要。人工智能和数据分析中通常缺少用于实现公正原
28、则的严格的技术或算法方法，因为这需要对价值观敏感的技术和技术-社会（或人机）系统设计、监督和审查。在人工智能和数据分析中实现公正原则是一个协作和持续的过程，需要强化组织能力。- 16 -四、人工智能和机器学习中的透明度四、人工智能和机器学习中的透明度为评估一个决策系统是否公正或公平，以及决策者是否要承担责任， 通常需要理解该决策系统的工作内容及工作模式。 因此，遵循透明度的原则应首先理解公正和可说明性的概念，例如，确保决策主体能够充分理解算法系统。算法决策令人担忧的一点是，许多系统都是“黑箱子”，即这些系统的决策模式有时完全不透明，甚至对系统的构建者也不透明。如果算法决策系统是一个黑箱子，那么
29、受系统决策影响的各方将无法评估自己是否得到公平对待，同时系统用户也无法了解该系统是否实现其有关公正的承诺。雇佣和解雇决定的当事人、假释决定的当事人等通常很乐于理解如何制定决策或如何设计其所使用的产品。由于黑箱算法可能对实现公正和其他重要价值造成障碍，出于对算法决策不透明的担忧，人们呼吁算法决策的透明度。然而透明度也同公正原则一样有很多含义。把透明度需求转化为对算法决策系统设计和使用的指导，需要明确透明度在具体情境下产生重要影响的原因，需要保持透明的对象，及为履行这些义务采取何种形式。（一）透明度背后的价值观和概念（一）透明度背后的价值观和概念- 17 -透明决策对于实现各种价值观和观念至关重要
30、，有时甚至必不可少。公正原则就是一个很好的例子。缺乏透明度有时会阻碍决策主体，如贷款申请人或假释申请人，确定自己是否真的受到尊重和公平对待。在许多情况下，决策者需要考虑决策主体的具体情况。对决策者而言，倾听别人的意见、尝试理解其观点并在做决定时认真考虑这些观点至关重要。未考虑他人具体情况就单方面做出对他人产生重大影响的决定，往往是不尊重或缺乏充分考虑的行为。例如，当假释裁决委员会决定是否批准假释时，决策对象有权了解决策者已经做出努力来了解各种细节，并在做决定时将这些细节考虑在内。除有助于实现公正，透明度还可在执行其他概念和落实价值观方面发挥重要作用。合规性合规性合规性是与尊重法律这一价值观相联
31、系的规范概念。在缺乏透明度的决策系统中，可能会很难确定某个系统或模型是否符合适用的法律、法规、行为准则或其他道德规范。如果再犯预测系统、定向广告系统或约会应用程序排名系统完全不透明，那么就无法判断该系统是否在决策中存在种族或民族偏见，也就不可能判断该系统是否符合反歧视法或公正原则要求。因此，透明度通常是合理或重要要求，因为可通过透明度确定系统是否满足法律- 18 -和道德义务。自主自主自主是与尊重个人的价值观相联系的规范概念。赋予自主权意味着允许人们在知情的情况下做出决定，尤其是当这些决定对人们的生活前景可能产生重大影响时。如果决策系统不够透明，决策主体将难以采用系统决策来指导未来行为或选择。
32、如果决策主体在贷款、工作、入学或社会服务中遭到拒绝时，无法得知原因或者如何获得更令人满意的结果，他们将很难确定未来将如何重新申请相关资格。因此，透明度的价值往往体现在可以告知决策主体如何改变行为并赋予相关权利，从而影响他们关于未来生活轨迹的决定。认知认知认知是以理解为基础的规范概念，有助于更好地理解这个世界以及我们在其中所处的位置。算法系统在某些情况下可用于揭示大数据集中的隐含模式。即使我们仍然不清楚这些模式，或不了解形成或解释这些模式的潜在机制，它们仍可协助诊断或制定治疗方案。这些领域的相关认知不仅可以帮助从业者通过干预实现更好的结果，还可以促成关于某个领域的新理解、新见解，及新治疗方案。因
33、此，透明度的价值往往体现在它使新发现成为可能。- 19 -信任信任信任是与发展良好关系等各种基本价值观相关的规范概念。信任基于透明度原则，因为透明度有助于建立信任。为充分发挥算法工具的优势，从医学到路线绘制系统的利益相关者必须信任这些系统本身，及其对自己的生活行使权力的各种方式。如果不理解这些系统决策的方式和原因，利益相关者不太可能接受并使用这些技术及决策。因此，透明度的价值往往体现在有助于促进人们对决策系统的信任。（二）具体说明透明度承诺（二）具体说明透明度承诺正如透明度原则的基础是公正等诸多概念，提高决策系统透明度的方法也多种多样。 因此， 关于透明度的承诺也有很多形式，比如对算法决策系统
34、可解读性的承诺，对算法决策可解释性的承诺，或者对此类决策可说明性的承诺。例如，如果技术专家或决策主体能够理解系统的个体决策或行为，我们就可以认为该系统具备透明性，比如一位计算机科学家也许能够解释用于设定保险费率的算法决策系统对年龄或驾驶经验等因素的敏感性。一种更广泛的透明度形式是，即使某些决策系统本身不够透明，我们也要确保使用这些决策系统的原因的透明性。可通过以下方法理解关于透明度的共同承诺：可解读性可解读性- 20 -为保证算法决策的透明度，经常提到的方法之一是要求算法决策系统具备可解读性。例如，因为依赖基于大规模数据集的模型或多层模型，一些算法系统非常复杂，以至于数据和计算机科学家自己也无
35、法以精确的方式确定如何将系统输入转化为输出。此外，系统的可解读性与上述许多价值观有关。例如，如果某系统无法解读，系统所依赖的基础推理模式将面临严重障碍，且该系统可能无法保证符合某些规范。无论如何，并非所有人工智能和机器学习系统都不可解读，计算机和数据科学家正在全力开发可用工具，以恢复黑箱系统的可解读性。可解释性可解释性关于透明度的另一种承诺是要求算法决策系统具备可解释性。当一个决策系统可以向利益相关者提供决策、行为或结果合理化的解释时，我们认为该决策系统具备可解释性，但一个可解释系统并不一定产生该层面上可解释的输出；知道支持系统决策的推论也并不总是有助于证明系统决策的合理性。可解释性是实现上述
36、价值观的必要条件。决策主体通常需要知道系统做出与他们有关的决策的原因或考虑因素，以确定他们是否受到尊重或是否可以信任决策者。此外，可解释性对于确保系统能够遵守法律和伦理规范往往也至关重要。合理模糊合理模糊- 21 -为确保可解读性或可解释性而保持透明度的行为有时会牺牲系统的准确性，也就是说，有时需要在系统准确性和可解读性之间进行权衡，而且这种权衡并非在所有情况下都具备合理性，如在某些情况下，实现最大化的准确性可能比确保算法决策系统的可解读性或可解释性更为重要。即便如此，关于透明度的广泛承诺仍有助于实现信任等核心概念。如患者可能更愿意接受更加准确的工具，即便这种工具不具备可解读性或可解释性。在这
37、种情况下，尽管采用的系统不具备透明性，确保采用该系统的原因透明，便可以用来合理说明其他形式的不透明。可审查性可审查性关于透明度的最后一种承诺是可审查性。通过定期审查部分决策集或基于在决策中观察到的特定模式来确定核心价值是否实现，我们有可能对系统进行评估。例如，虽然为自动驾驶汽车系统做出的每项决策提供解释可能并不可行，但审查可以解释某些特定决策，而这对增加信任可能至关重要。审查程序的优点之一是，它们不仅能够确保算法决策的透明度，还能确保融合算法的更广泛系统的透明度。精心构建的审查流程可以在很大程度上保证决策系统值得信赖、可靠并且符合要求。从透明度原则到适当承诺， 最终到特定环境下的可衡量规范，这
38、一过程包括确定在决策环境中需要实现的核心概念和需要遵- 22 -循的透明度原则，以及最能体现这一原则的具体透明度承诺。提高系统的可解释性可能有助于最大限度地减少安全问题，但对增加信任或提供关于尊重个人的证据却收效甚微。表 7：低风险健康状况诊断工具基本核心价值观基本核心价值观核心伦理概念核心伦理概念原则原则承诺承诺说明说明健康和良好关系健康可靠信任透明度合理模糊独立审查平均API响应时间与错误率；知道正在使用模糊算法的用户比例；每年审查产品组合的比例低风险健康诊断工具是能够为患者的某些疾病提供可靠诊断的一种工具，但是这种工具的诊断失败成本较低。在这种情况下，透明度原则源于以健康和良好关系价值观
39、为基础的健康、可靠和安全概念。因为这里的透明度以这些核心概念为基础，适当的透明度是指承诺在系统准确性方面能够证明使用不透明系统的合理性，并承诺对诊断结果进行审查，以确保结果准确、可靠并值得信任。关键要点关键要点不透明妨碍实现公正等各种价值观和核心伦理观念。为克服这些障碍制定透明度标准，需要认识到透明度在特定环境中能产生价值或重要影响。制定透明度标准还需确定在可解读性、可解释性、合理模糊或可审查性中，何种承诺是在特定情境中实现相关价值观和概念的必要和充分条件。满足透明度标准并不是要求所有人任何时候都能够了解如何制定各项决定。在某些情况下，过高的透明度不仅没有必要，而且会损害系统的效率、准确性等其
40、他重要价值。- 23 -五、结论五、结论在人工智能和大数据使用方面，一般性的伦理承诺现在已经司空见惯。实现这些承诺的第一步是采用原则、价值声明、框架和准则，阐明负责任的开发和使用所包含的内容。不过，如果这些概念和原则将要产生实质性影响，即如果它们不再仅仅是理论和愿望，那么相关组织不应只对价值观和承诺泛泛而谈，而应明确说明规范概念如何体现基本价值观，何种原则能够体现这些概念，这些原则关于特定用例的具体承诺是什么，以及这些组织最终将如何具体评估承诺是否履行。我们经常听到一些组织声称自己支持公正和透明，但真正艰巨的任务是明确这些承诺对它们的意义，并且在实践中实现这些承诺。在人工智能和数据伦理方面，从
41、一般性承诺转向实质性具体承诺，该过程具有复杂性。而这种复杂性主要来自以下三个关键因素：公正和透明度等伦理概念往往具有多种意义和含义；何种伦理概念具备可操作性或适当性往往与情境相关；伦理概念涉及各个方面，如何种系统需要保持透明、对谁保持透明以及以何种形式保持透明。厘清并规范说明人工智能和数据伦理中的具体内容，其本身并不仅仅是技术层面的问题，因为除了技术系统知识之外，它通常还需要伦理专业知识、对相关情境（或特定领域）因素的认知，- 24 -以及人机交互方面的专业知识。此外，我们不可能切实为公正或透明度（或其他伦理概念）指定一般标准，使其可以应用于所有的人工智能开发和使用情境。由此推论，如果组织要想
42、成功实现其道德承诺和开发负责任的人工智能，它们就必须广泛思考如何在组织内部及组织之间建立道德能力。随着人工智能和数据伦理的持续发展，许多组织已经开始采取相关举措，包括：组织结构和治理组织结构和治理建立人工智能和数据伦理委员会，协助制定相关政策，为项目/产品提供咨询意见， 并进行审查； 设立负责任的创新管理职位，执行落实道德规范和原则等职责；开发工具、组织实践和结构/过程，鼓励员工发现和提出潜在的伦理问题。拓展视野与合作拓展视野与合作与受影响群体进行有意义的接触，从而更好地理解伦理问题以及人工智能和数据系统长期存在的不平等现象，并确定促进平等、赋权和社会公益的机会；聘请内部伦理和社会科学专家，或
43、咨询外部专家。培训与教育培训与教育为员工、合作伙伴和客户提供道德培训/课程，提高对组织承诺的意识和理解；建立流程，鼓励将伦理教育融入计算机科学、- 25 -数据科学和领导力项目。将伦理应用于实践将伦理应用于实践通过负责任的创新实践，在产品开发中尽早融入考虑价值观的设计，包括将代表法律、伦理和社会观点的成员纳入研究和项目团队；利用技术工具和案例审查对数据和人工智能系统进行“伦理审查”；在决策过程中考虑并执行以隐私和伦理为导向的风险和责任评估；开发可向用户和客户表明产品和服务符合强有力伦理标准的方法；确保整个组织遵守负责任的创新协议和最佳实践。构建人工智能和数据伦理社区构建人工智能和数据伦理社区创
44、建行业和跨行业协作小组和论坛，分享与实现负责任人工智能相关的经验、想法、认知和创新成果；在组织内部建立团队，在组织之间展开协作，专注于按照定义明确的规范将人工智能作为一种社会福利事业加以推广；针对组织关注的问题进行基础人工智能和数据伦理研究。这些相互关联的措施正在不同领域不断创新，从初创企业到跨国公司、从地方到国家的商业、医疗、教育、金融服务、政府、非营利组织等多个领域均有涉及。总的来说，这些举措为组织内部生成伦理能力提供丰富的可能性。它们证实将一般承诺转化为实质性行动基本上是一项技术-社会挑战， 需要结合不同群体和专- 26 -业知识制定多层次的系统解决方案。同时，它们也表明将一般人工智能伦理原则转化为可操作的实质性内容并非易事，需要持续不断的努力。译自： Getting from Commitment to Content in AI and Data Ethics: Justiceand Explainability, August 2021 by the Atlantic Council译文作者：工业和信息化部研究院吴静 牛晓靓联系方式：电子邮件：
sgpjbg002
工作日 8:30 - 17:30
会员动态：
报告分类
新质生产力
ChatGPT
新能源汽车
大模型
Sora
机器人
微短剧
芯片
薪酬
白皮书
低空经济
数据要素
创新药
人工智能
AI产业
信息科技
互联网
消费经济
汽车交通
电商零售
传媒娱乐
医药健康
投资金融
能源环境
地产建筑
传统产业
英文报告
其它
扫码登录
手机快捷登录
账号登录
