全球数字化转型方兴未艾，新冠疫情加速改变大众生活模式和经济运行方式，前沿科技蓬勃发展。基因工程、人工智能和机器人、纳米技术、增强现实、3D打印等新兴技术在应用中存在一定风险性和不确定性，并可能引发伦理问题。党的十九届四中全会提出健全科技伦理治理体制，十四五规划纲要也明确提出加强科技伦理建设。近期印发的《金融科技发展规划（2022—2025）》提出健全多方参与、协同共治的金融科技伦理规范体系。金融领域，新技术应用带来的风险伴随金融的外部性，已经产生金融服务的数字鸿沟、算法歧视等问题，金融科技伦理治理也成为当前理论和政策研究关注的焦点。本文分析了金融科技伦理治理涉及的主要领域，结合我国金融科技创新发展现状和趋势，提出建立健全金融科技伦理治理评估和审查制度，充分发挥行业自律与监管协同，采用多元化工具以构建适应性金融科技治理体系等建议。
科技伦理治理：软约束还是硬制度？
科技与伦理，本属于彼此伴生的两套独立系统。科技极大地扩展了人类的行为空间和方式，而伦理是对行为的价值判断。然而，新兴科技发展引发的伦理冲突日渐成为科技治理中的焦点问题。科技发展遵循引进、渗透、权力化演进路径，随着技术融入社会的广度与深度不断增加，受技术影响的行为选择范围越广、潜在的伦理问题就越多。新技术融合性特征增强了技术变革不确定性，增大了技术发展至权力阶段的演进概率。新兴科技具有推动社会剧烈变革的潜力，将引发大量价值冲突，如信息科技发展带来的交流便利与隐私侵犯的价值事实冲突、信息科技发展带来的文化多元与虚无主义之间的价值观念冲突等。科技伦理因素在科技系统中的作用逐步扩展——从单纯作为一种评价个体行为的价值工具，已逐步演化为重要的治理工具。科技伦理由哲学理论学科或概念发展为一种治理机制，源于科技治理体制在科技与社会的持续互动中不断进行制度探索。科技伦理治理以解决伦理困境为目标，对科技伦理的影响进行探寻与反思，为个体行为提供行为指引。
科技伦理治理逐步发展成为科技监管的重要考量。在新兴科技治理中，提升科技治理工具对科技发展的适应能力成为解决步伐匹配问题的有效路径。伦理学为解决伦理冲突提供了重要理论工具，也成为科技治理制度发展的重要转向。从实践来看，伦理治理的作用从开始局限于科学体内部反思的非正式自我规制方式，逐步演进为监管部门在科技监管政策中越来越多的考量因素，科技伦理从科学体内部小范围反思逐步发展为体系化治理。
科技伦理治理主要围绕探寻反思科技伦理影响和指引规范个体伦理行为展开。一是开展科技伦理动态评估，增强社会对快速发展科技的掌控能力。科技伦理动态评估强调在科技创新阶段嵌入伦理反思机制，激励专家、公众对科技发展可能方向与结果进行讨论，并将好的科技展望纳入科技产品设计中。在科技创新过程中，对科技发展状态与伦理影响进行持续的阶段性审视，将好的理念纳入科技产品设计中；同时在厘清技术现状基础上，反思科技创新与应用引发的伦理问题，构建伦理冲突解决方案或提炼共识性伦理准则。二是科技伦理委员会和论坛机制。科技伦理反思的公共论坛一般由科技伦理委员会和监管部门共同主导，引导公众深入思考、理解科技伦理问题，并解决伦理冲突问题。三是提炼引导个体伦理反思的原则和理念，增强社会对科技发展整体向善的掌控力。伦理原则一般由国际组织、监管机关、行业协会、科技企业、研究机构编纂，通常以义务、结果、美德为导向，对个人行为提出增强社会福祉、尊重个体尊严、公正公平等要求。由于新兴科技应用极为广泛，以及伦理的多元性、相对性特征，用于个行为指引的伦理原则都较为抽象，如人工智能领域，主要伦理原则包括尊重人类自主性原则和防止损害原则。
科技伦理治理有别于法治逻辑，但也有法制化发展需要。科技创新一般具有一定的风险性、二用性、可能引起伦理问题等特征，其结果存在不确定；与法制针对事后结果判定存在不匹配性。但同时，伦理治理模式又可以通过事前监测、事中评价和事后检查等流程进行健全与完善，伦理治理模式特征体现为适应性治理与软法规制，有必要通过适度法制化路径，提升伦理治理效率。审慎使用实体权利—义务规范方式规定伦理问题，推动法律通过规范程序方式促进伦理反思：建立法律规则、行政指引与自律规范相结合的多层次规范体系，完善风险交流机制与伦理共识达成机制，增强伦理原则执行力。我国已经组建国家科技伦理委员会，党的十九届四中全会、五中全会也均强调要健全科技伦理治理。然而，从科技治理现状来看，我国科技伦理治理的作用仍然较弱，尚未建立相应的科技伦理治理工具。推动科技伦理治理法制化，通过法制规范能够提升我国科技伦理治理的效率和水平。
金融科技伦理治理：渐行渐近的科技监管？
近年来，金融科技的快速融合创新发展极大拓展了金融服务覆盖范围，丰富了金融产品，激发了金融发展活力。但随着科技在经济社会各领域的应用深度和广度不断拓展，也带来隐私保护、信息茧房效应、数字鸿沟、技术排斥、算法歧视、诱导过度借贷、隐私保护欠缺等伦理道德问题，引发全球关注。金融科技创新应用的核心技术主要包括云计算、大数据、人工智能、区块链、物联网等。其中大数据、人工智能应用最为广泛。智能风控、智能投顾、智能客服（机器人客服）等基于人工智能、大数据技术的金融应用几乎已经成为各金融机构的标配。而这些技术应用本身就存在科技伦理治理问题，在金融领域应用和资金的结合，其负面的影响更加明显。
人工智能技术在金融领域应用的伦理问题最为凸显。一是智能算法可能产生算法黑箱、算法歧视等问题，可能产生信贷供给歧视，存在诱导过度借贷等伦理问题，应对不当可能影响金融稳定和安全。需要进一步深入了解算法的精准性和性能，主动披露算法的运行逻辑和潜在风险，确保算法的可解释性、可把握性、可审计性。二是机器人客服潜藏着难以预估的风险。2017年机器人索菲亚（Sophia）在沙特阿拉伯成为史上首个获得公民身份的机器人，随之而来的问题是：“她”是否和人类一样具有法律身份和公民资格？如果将来索菲亚触犯法律，接受惩罚的是设计者、制造者，还是索菲亚自己？机器人客服在金融领域主要是语音机器人和智能大堂经理两种，未来和客户之间产生的纠纷责任主体确定、机器人算法黑盒带来的风险不确定性尚难评估。
金融大数据应用带来隐私保护和数字鸿沟难题。大数据技术在给金融领域带来积极变化的同时，也导致透明社会的到来，从而产生了数据主体自主权不足、个人数据权利边界消失、信息隐私被侵害、数据独裁与数字鸿沟不断扩大等一系列伦理问题。美国大数据、伦理学与社会理事会将大数据伦理归纳为五个方面议题：数字身份、隐私、可及、安全和安保、数字鸿沟，国内学者探讨最多的是个人隐私、信息安全、数据公平。我国数据安全法、个人信息保护法为数据工作划定“红线”、明确原则、提供遵循，对过度收集滥用个人信息、违规处理用户数据等顽疾下了一剂猛药。这要求金融业提高个人金融信息保护意识，增强金融领域数据应用的安全性与合规性。
人民银行科技司有关负责人指出，金融业要秉持以人民为中心的发展思想，聚焦当下科技伦理突出问题，锚定服务实体经济、普惠百姓民生的伦理坐标，加快制定金融领域科技伦理标准规则、行动指南和自律公约，建立伦理审查、信息披露等常态化的工作机制，将伦理道德作为衡量金融科技人才的重要尺度，聚守正之力、扬向善之帆，谱写金融行业科技向善共鸣曲。
适应性金融科技伦理治理：重评估还是重引导？
适应性治理（Adaptive Governance）强调治理体系设定从一开始就期待、预见、回应变化，通过积极监测客观环境变化，及时调整治理方案以匹配新监督需求。完整的金融科技伦理治理体系从创新初期、发展阶段到推广应用，通过持续性伦理评估与伦理讨论、伦理共识提炼，预见、回应新技术金融应用带来的新社会问题。金融领域，技术应用面临商业伦理选择的挑战更为直接，引导金融科技向善、惠民利企，不仅需要有效引导公众审视和反思金融科技伦理的影响，更需要建立适应性金融科技伦理治理体系。
1）建立金融科技伦理动态评估机制，完善金融科技创新应用规范
一是探索在金融科技创新试点时同步开展金融科技伦理评估,将科技向善的理念融入到金融科技产品与服务设计纳入试点评估体系。二是加强算法审计，防止算法歧视。确保算法符合公平原则、具有可解释性，避免算法效果的同质化和算法团队的垄断风险等。三是开展金融科技创新适老化和数字普惠评估，缩小数字鸿沟。借助科技手段，宣传和推广专门针对老年人、低收入人群和残障人士的金融科技服务模式，进一步提升农村数字普惠金融服务，提高农村地区金融服务可得性。此外，在金融科技创新应用时，建立伦理审查、信息披露等常态化工作机制。强化金融科技伦理治理，
2）探索设立金融科技伦理委员会，建立治理软法则
通过行政引导方式构建金融科技伦理秩序，引领新技术金融应用整体向善发展，并及时解决伦理冲突是最具成本优势的治理工具。在科技伦理治理发展程度较高的西方国家，通过伦理委员会形式系统性推动伦理治理主要集中在生物科技领域。而在人工智能技术等领域，尚未成立专门的伦理委员会，其主要通过科技监管部门伦理评估、召开论坛、专家民众技术交流会等形式进行科技伦理治理。在我国，一方面可成立金融科技伦理治理委员会，形成原则性指引为基础，在具体情境中进行原则申辩与审视，并结合新技术金融应用的客观风险与效益、技术应用者的主观状态等进行伦理判定的软性金融科技治理规则。同时，也可充分发挥成方金融科技论坛、中国金融学会金融科技学术年会等平台作用，开展技术交流、发布金融科技伦理治理的研究报告，增进金融消费者对金融科技创新的理解。
3）发挥行业协会作用，建立个体行为的伦理指引，合理引导金融消费者
主要经济体的行业协会在技术伦理治理中扮演重要角色，如IEE于2020年成立了关于科技伦理与社会的技术委员（Technical Committee on Technology Ethics and Society）。我国行业协会在社会治理中的作用较为薄弱，且新兴科技发展蕴含巨大商业利益,科技公司、媒体具有强烈商业动机在自下而上的伦理商谈中歪曲技术事实。充分发挥互联网金融协会、金融科技产业联盟等行业协会在金融科技伦理治理中的作用，确保从业机构负责任、有道德地开展金融科技创新。同时，聚焦科技伦理突出问题，引导金融消费者理性开展金融科技伦理讨论，探索建立金融领域科技伦理标准规则、行动指南和自律公约。
注：本文作者习辉，经济学博士、高级经济师、硕士导师，现任金融信息化研究所资深业务主管
京公网安备 11011102001835号