SDG智享会 | 数据伦理:科技企业的价值挑战与机遇

 二维码 222
发表时间:2021-08-23 10:46

导   读


在当今社会数字化的浪潮之下,科技企业在信息的使用与流动上占据着不容忽视的地位。2020年10月,十三届人大二十二次会议审议通过了关于个人信息保护法的草案,明确了信息处理者的所要履行的义务,强化了企业的合规责任。今年7月,滴滴出行由于涉嫌泄露用户个人信息,受到了国家安全部门的联合审查。在这样的政策背景下,科技企业应该如何面对数据安全相关的风险和挑战,并且将其转化为发展机遇是一个值得思考的问题。在本期SDG智享会中,我们邀请到玛娜数据基金会创始人张唯先生分享数据伦理对于科技企业的挑战与机遇。



分享嘉宾


张唯

玛娜数据基金会创始人


多年金融投资及互联网从业经验,长期关注个体与数字社会前沿议题,曾获2019年优秀社会创业家。玛娜数据基金会成立5年来参与多个国家级重大课题,推动《个人信息安全法》立法及公众倡导,响应开展弥合性别数字鸿沟的工作,并支持近百家机构与组织通过技术促进弱势群体增进福祉,提升平等发展权。



对话嘉宾

汪云沾

深圳福田引导基金投资有限公司总经理


深圳市先行示范区专家,深圳证券交易所与福田区政府联合创办的香蜜湖(深圳)产融创新上市加速器创业导师。历任深圳证监局上市公司处、信息调研处、基金处处长。在资本市场机构及监管机构工作多年,熟悉宏观经济,对资本市场尤其是股权领域有较深入的理解和研究。


柏亮

“零壹财经”创始人


横琴数链数字金融研究院院长,中国科技体制改革研究会数字经济发展研究小组执行秘书长。曾任第一财经北京财经中心主任、第一财经新金融中心主任等职。


黎江

资深科技专家


曾任微软中国公司CTO, 在计算产业、数据中心、云计算、大数据、区块链、人工智能和IT产业规划与实施与研发管理等多个领域颇有建树。黎江任北京市政府顾问、北京“海聚工程”专家及多个职务,参与制定了国家与行业的技术标准。



以下内容根据张唯先生演讲内容整理



“新”革命中的“老”问题


去年《外卖骑手,困在系统里》的文章引发大众对于智能算法与数字经济发展带来的社会问题的广泛讨论,也引发了行业思考数据伦理所指向的几大问题,张唯先生将此称之为“新”革命中的“老”问题。


1、中立性问题。从表面看,数字科技源自不同的代码,似乎是中立的。但是算法的应用,有时候是对社会不平等现象的映射,甚至会某种程度固化、放大这种鸿沟。比如在就业领域,高级岗位女性推荐率在8%至15%之间,系统学习到社会的偏向,并开始越来越倾向加强男性在高级岗位的推荐比率,往往会进一步加剧性别不平等。


2、电车难题。如今自动驾驶行业迅猛发展,当人工智能接管驾驶权,面对同样的电车难题风险,它会作何选择?


3、隐私问题。随着世界各国个人隐私保护的加强,科技企业发展的空间逐渐受限,这就涉及如何去权衡用户隐私保护和企业发展的问题。


4、边界问题。当人工智能发展到直接通过微表情自动识别分析人们有没有说谎,人失去“说谎”的自由,模拟人脸技术的进步使证明真相的难度大幅提高,数据智能引发的一系列风险提醒我们需要考虑安全边界的问题。


5、时效性问题。当前对于算法的法律限制,与未来的法律会有差异,但是人们只能严格按照当前的路线和价值观下去做事,在一定程度上会影响自主性和自由度。



商业利益与社会责任、国家安全之间的

平衡之道


目前在数据伦理的公共议题中,滴滴出行备受关注。滴滴出行是一家典型的数据智能驱动的互联网企业,以数据思维为引领,数据技术为核心,数据资产为基础,通过对数据的处理、分析、挖掘,持续优化数据模型,提高司机效率,实现便捷出行。但是在这过程中,这种融合的数据、算法和规则的智能化系统引发法律层面和伦理层面的关注。特别是随着《国家安全法》、《网络安全法》、《数据安全法》、《网络安全审查办法》,以及现在的《个人信息保护法》相继出台,法律关切更伴随着伦理方面的质疑:滴滴出行如何平衡巨大的商业利益与企业社会责任与国家安全之间的关系?这也是滴滴出行现在面临的重要挑战。



从数据伦理角度,可呈现出三重问题:


第一重,数据的过度收集和违规使用。当数据在价值链中处于一个核心地位,数据驱动的企业可能会出现在没有用户或其他相关方授权同意的情况下,过度采集和滥用数据,从而侵犯相关方数据权利。


第二重,价格歧视问题。这里指的是大家热议的“大数据杀熟”,基于数据算法精准把握用户的支付意愿,形成个性化定价,损害消费者的平等权利。


第三重,数据霸权催生的垄断主义。数据时代的数据霸权正逐渐对社会公平正义构成挑战和隐忧。少数企业凭借数据上的垄断优势获取高额利润,并不断打通数据孤岛垄断数据资源,这将导致创业者、中小企业的发展困境。



对数据伦理的认知逐渐从准则发展到体系


美国耶鲁学者Wendell Walach的《道德机器》、赫拉利的《人类简史》反映了在数据伦理的普遍焦虑,进而衍生了一系列数据伦理的准则。欧盟是其间重要代表,包括我国的清华研究院也提出了数据伦理的原则,包括福祉原则、安全原则、共享原则等,社会各界也在广泛讨论。


随着准则的提出,数据伦理进入体系化的过程,如何使上一阶段提出的数据伦理准则更具普适性,如何从运行机制、实施场景、风景预判和创新动力这四个角度真正落实,特别是在具体场景如何落实和形成可执行的准则,都是特别值得讨论的问题。




数据伦理从理论到应用



张唯先生指出目前越来越多科技企业采取积极举措,将隐私保护作为鲜明的企业特质和诉求,贯穿到自己的产品和服务中,以此作为自己的服务特色和亮点,比如苹果给用户提供是否允许app跟踪使用信息的选择。


另外,从产业发展角度,也有如数据交易、隐私计算、区块链等创新产品和模式的涌现,特别是在数据交易领域,去年我国提出将数据作为生产要素。过去几年间我国多个地区成立数据交易所,从长期来看,随着相关法律问题的明晰,尤其是数据确权问题,数据交易将有更坚实的发展基础。


张唯先生表示数据伦理的贯彻和实施,整体反映的是一个权利与权力的重构的过程。首先从底层来讲,最基础的环节是形成“数据应用于人,服务于人”的共识,并明晰相关方在数据获取、存储、使用及管理的全流程上的权责。第二层面是明确公民的数据权利。目前企业主体的数据权利包括数据的管理权和数据的控制权。对于个人而言,数据的人格权和数据的财产权构成个人的数据权利。为了维护这些基本权利,就会触发制度保障诉求,包括管理办法、治理结构及整个环节的规范性要求。在层层递进的最后数据与人、数据与社会形成一个和谐共生的关系。



最后张唯先生介绍了玛娜基金会的业务模式。玛娜基金会于2016年成立,凝聚国内顶尖专家,在数字鸿沟、个人数据权益保护等领域,都有相应的体系研究和项目,最近也在数据可交易特质方面进行探索。张唯先生表示期待能与更多伙伴进行进一步的联动和探讨,共同创造一个数据与人更和谐相处的未来。



智慧对话





柏亮

“零壹财经”创始人

在科技发展中一直面临这些“科学怪人问题”或者“弗兰肯斯坦问题”,即科学发展过程中的技术失控和对人类造成的伤害。

其实科技发展除了面临“能与不能”的问题,还面临“对与不对”、“应不应该”的问题,当立法和监管还不到位的时候,数据公司和数据人员在获取和使用数据时,只能自己思考“对与不对”。在规则确立之前,企业也要权衡如何使用数据算法来提高效率,如果企业不高效地“优化”自己的算法,可能会在市场竞争中落败,算法过度“精密”又会出现把人工具化,这就是一个数据伦理问题。柏亮认为,其实更多企业还是希望能在这个问题中找到平衡点,保证企业活下去,取得竞争优势的同时,不违反伦理问题。


柏亮先生:张唯先生提到,目前出现了一些数据伦理公司,想请教是什么类型的企业,现在的发展状况和未来趋势怎么样?


张唯先生:国家科技部成立了国家科技伦理委员会,并且号召更多企业将科技伦理纳入企业的管理流程。国内也越来越多的企业建立自己的人工智能落地委员会,对自身产品和服务中与数据伦‍‍‍‍‍‍‍‍‍‍理相冲突的部分进行规制和调整。如果落实到非常严格的数据伦理企业,普遍还是创新型企业或发展中企业,他们也期待将数据伦理发展为品牌优势,同时打造更具差异化的产品。


黎江

资深科技专家

目前数字伦理之所以受到越来越多关注,是因为它已经造成一种社会成本,并且收益与大多数人付出的成本不匹配。然而这种矛盾目前靠企业自身是很难解决的,在单纯的市场环境下,很难完全靠资源配置解决这个问题,需要政府和法律的战略性建设,比如通过国家征税以及设置准入限制的方式来规范监管。


除了政策手段,技术本身也可以思考技术手段解决数据伦理的问题,比如将数据伦理变成算法,变成智能合约。黎江先生分享了世界目前还普遍处于数字孪生的阶段,但是随着这两年数据原生的发展,未来数据可能会变成独立的数据智能体。随着数据原生和智能体的出现,未来将从“中心化”的处理方式逐渐发展为“多中心化”、“去中心化”的处理方式,随着技术的突破也会更好地解决数据伦理问题。


黎江先生:有没有正在遵循数据伦理原则的一些技术或者实践案例?


张唯先生:从信息安全和隐私保护的角度看,区块链是一个比较明确的探索方向,一些新兴的区块链公司也在做一些产品的尝试。并且随着数字货币的实践,许多大型企业也尝试应用区块链的技术。另一层面,在隐私计算领域,也有许多新兴科技企业希望在数据资产的确权和计算层面取得突破。现在可能还只是呈现少数的尝试和探索,但是相信随着立法的完善、社会资源的投入,在未来两三年会有更系统的实践呈现。


汪云沾

深圳福田引导基金投资有限公司总经理

汪云沾先生从投资人角度分享了目前在数据领域,主要关注的还是数据安全合规的问题,首先是企业数据来源的合法性,其次是数据储存的安全性,以及数据使用的合规性与安全性,但是目前还没有一套完整的解决方案。

汪云沾先生指出在数据伦理的“基础设施”建设过程中,主要需要解决三大问题:数据安全使用的技术解决方案、完善的法律监管体系以及互利共赢的经济解决方案。汪云沾先生表示其实数据更像是资源而非资产,因为资产按照会计学的概念,它在未来会带来利益,但是资源不一定,需要开发才有价值。另外,如果我们想用数据赋能企业,还需要通过数据和算法的互联,打破目前数据孤岛的状态。汪云沾先生指出在未来可能会出现类似信托一样的数据托管机构,但是数据交易还面临确权和利益分配等难题。


汪云沾先生:在规范数据伦理方面,靠企业自律和行业规范与依靠法律法规进行规范,哪个更有效?


张唯先生:目前数据伦理在某种程度上已经成为数字科技发展的瓶颈问题,针对这个问题不同国家采取了不同的政策。比如美国采取税收的方式,向大型科技企业征收数字税实现约束和监管。在几年前,我们讨论过数据信托的方向,但是实践下来与预期仍有差异,当然这与社会环境、法律配套和产业状态都有关。所以放眼未来,法律颁布是一个节点,在法律形成框架后,产业界和整个利益相关方彼此碰撞从而形成新的利益格局,从伦理层面形成新的价值共识,在法律与行业规范相辅相成的状态下规范数据伦理。


自由讨论




金汇财富资本高级副总监张贞卓先生与张唯先生、汪云沾先生、柏亮先生和黎江先生就大数据交易、数据治理进展以及数据伦理下的企业机遇等话题进行深入探讨。

张贞卓先生:深圳今年筹备大数据交易所,这与中国目前现存的贵阳、上海、武汉等各地的大数据交易所有什么区别?

张唯先生:目前现存的交易所实际运行还不是特别符合预期,在一系列机制还未理顺的情况下,几大数据交易所还处于探索和磨合的过程。柏亮先生指出其实从贵阳交易所到北京交易所,在思路上已经有很大转变。贵阳交易所最初是把数据本身进行交易,在交易过程中大家发现数据转移过程中的安全性难以保证,数据确权也很模糊。所以北京大数据交易所采用隐私算法,交易的不是数据本身而是数据的使用权,因为北京大数据交易所也是今年刚开业,我们也需要看进一步推进的情况。随着法律监管的配套和行业的成熟,深圳大数据交易所还是值得期待的。

张贞卓先生:有了解到深圳大数据交易所将会做公共数据的交易,请问政府各级单位或者事业单位的公共数据可以交易吗?

柏亮先生:目前公共数据的开放是趋势,在脱敏或达到一定技术和安全标准之后,向公众开放,目前各省、市级政府都有自己的数据开放网站。美国在奥巴马政府时期开始力推公共数据开放,也由此催生出一批新产业。对于政府掌握的公共数据,还有一种思路,将公共数据作为数据资产,成为财政资源的一部分;目前很多地方政府已经布局了大数据局和大数据公司,但是在运作模式上目前还没有很明确。

张贞卓先生:国家成立数据交易中心的目的是什么?如果是为了解决数据孤岛的问题,可以平衡信息保密和数据联动的区块链技术是否就足够解决该问题?

黎江先生:从数据资产产业链的角度,数据的确权、估值,数据资产的评估、信托,都会成为新的发展方向和行业机遇。另外,柏亮先生表示就像公司治理中有会计师事务所、律师事务所等来解决一系列问题,未来企业数据治理也会催生提供数据合规、数据治理服务的产业链,这其中就蕴含巨大市场。

张贞卓先生:面对数据伦理和算法伦理的挑战,我们国家当前的数据治理进展如何?

柏亮先生:数据治理包括两方面的内涵:一方面法律法规对数据处理、数据保护、数据安全提出的要求,另一方面市场主体如何达到这个要求。张唯先生指出目前国家数据治理趋于严格,数据监管法规相继颁布,对很多利益格局和产业发展模式造成冲击,放眼国际,几大经济体也都面临相似的治理难题,将是一个长期博弈的格局。