SDG智享会 | 数据伦理：科技企业的价值挑战与机遇

以下内容根据张唯先生演讲内容整理

去年《外卖骑手，困在系统里》的文章引发大众对于智能算法与数字经济发展带来的社会问题的广泛讨论，也引发了行业思考数据伦理所指向的几大问题，张唯先生将此称之为“新”革命中的“老”问题。

1、中立性问题。从表面看，数字科技源自不同的代码，似乎是中立的。但是算法的应用，有时候是对社会不平等现象的映射，甚至会某种程度固化、放大这种鸿沟。比如在就业领域，高级岗位女性推荐率在8%至15%之间，系统学习到社会的偏向，并开始越来越倾向加强男性在高级岗位的推荐比率，往往会进一步加剧性别不平等。

2、电车难题。如今自动驾驶行业迅猛发展，当人工智能接管驾驶权，面对同样的电车难题风险，它会作何选择？

3、隐私问题。随着世界各国个人隐私保护的加强，科技企业发展的空间逐渐受限，这就涉及如何去权衡用户隐私保护和企业发展的问题。

4、边界问题。当人工智能发展到直接通过微表情自动识别分析人们有没有说谎，人失去“说谎”的自由，模拟人脸技术的进步使证明真相的难度大幅提高，数据智能引发的一系列风险提醒我们需要考虑安全边界的问题。

5、时效性问题。当前对于算法的法律限制，与未来的法律会有差异，但是人们只能严格按照当前的路线和价值观下去做事，在一定程度上会影响自主性和自由度。

目前在数据伦理的公共议题中，滴滴出行备受关注。滴滴出行是一家典型的数据智能驱动的互联网企业，以数据思维为引领，数据技术为核心，数据资产为基础，通过对数据的处理、分析、挖掘，持续优化数据模型，提高司机效率，实现便捷出行。但是在这过程中，这种融合的数据、算法和规则的智能化系统引发法律层面和伦理层面的关注。特别是随着《国家安全法》、《网络安全法》、《数据安全法》、《网络安全审查办法》，以及现在的《个人信息保护法》相继出台，法律关切更伴随着伦理方面的质疑：滴滴出行如何平衡巨大的商业利益与企业社会责任与国家安全之间的关系？这也是滴滴出行现在面临的重要挑战。

从数据伦理角度，可呈现出三重问题：

第一重，数据的过度收集和违规使用。当数据在价值链中处于一个核心地位，数据驱动的企业可能会出现在没有用户或其他相关方授权同意的情况下，过度采集和滥用数据，从而侵犯相关方数据权利。

第二重，价格歧视问题。这里指的是大家热议的“大数据杀熟”，基于数据算法精准把握用户的支付意愿，形成个性化定价，损害消费者的平等权利。

第三重，数据霸权催生的垄断主义。数据时代的数据霸权正逐渐对社会公平正义构成挑战和隐忧。少数企业凭借数据上的垄断优势获取高额利润，并不断打通数据孤岛垄断数据资源，这将导致创业者、中小企业的发展困境。

美国耶鲁学者Wendell Walach的《道德机器》、赫拉利的《人类简史》反映了在数据伦理的普遍焦虑，进而衍生了一系列数据伦理的准则。欧盟是其间重要代表，包括我国的清华研究院也提出了数据伦理的原则，包括福祉原则、安全原则、共享原则等，社会各界也在广泛讨论。

随着准则的提出，数据伦理进入体系化的过程，如何使上一阶段提出的数据伦理准则更具普适性，如何从运行机制、实施场景、风景预判和创新动力这四个角度真正落实，特别是在具体场景如何落实和形成可执行的准则，都是特别值得讨论的问题。

张唯先生指出目前越来越多科技企业采取积极举措，将隐私保护作为鲜明的企业特质和诉求，贯穿到自己的产品和服务中，以此作为自己的服务特色和亮点，比如苹果给用户提供是否允许app跟踪使用信息的选择。

另外，从产业发展角度，也有如数据交易、隐私计算、区块链等创新产品和模式的涌现，特别是在数据交易领域，去年我国提出将数据作为生产要素。过去几年间我国多个地区成立数据交易所，从长期来看，随着相关法律问题的明晰，尤其是数据确权问题，数据交易将有更坚实的发展基础。

张唯先生表示数据伦理的贯彻和实施，整体反映的是一个权利与权力的重构的过程。首先从底层来讲，最基础的环节是形成“数据应用于人，服务于人”的共识，并明晰相关方在数据获取、存储、使用及管理的全流程上的权责。第二层面是明确公民的数据权利。目前企业主体的数据权利包括数据的管理权和数据的控制权。对于个人而言，数据的人格权和数据的财产权构成个人的数据权利。为了维护这些基本权利，就会触发制度保障诉求，包括管理办法、治理结构及整个环节的规范性要求。在层层递进的最后数据与人、数据与社会形成一个和谐共生的关系。