近几年“数据隐私安全”成为了每天315晚会必提的焦点问题,今年的315晚会也不例外,晚会开篇便把问题聚焦到人脸识别系统上,“谁在偷我的脸?”这个“偷”字一针见血地指出了人脸识别系统存在的隐私泄露问题。
比如,商店内的人脸识别摄像头可以捕捉进入门店的顾客的人脸信息,顾客去了哪家店去了几次都会被记录,而这一切,顾客全然不知。
除了人脸信息,患者看病时的医疗记录,求职者在招聘网站上更新的简历,老人手机里的安全陷阱,都被不断抓取分析,甚至还被第三方公司所掌握。
更可恶的是,你不同意它使用这些权限,有些APP还不准你用,逼着你不得不同意对方获取这些权限。
所以在315曝光了众多垃圾APP之后,国家也正式出手了,近日四部门联合发布了《常见类型移动互联网应用程序必要个人信息范围规定》,里面对APP乱调用权限问题进行了规范,同时表示如果某些APP违反了该项规定,消费者可以进行举报。
著名英国作家查尔斯狄更斯曾有句名言:“这是一个最好的时代,也是一个最坏的时代。”
大数据使我们的生活更加便捷,但同时也有一只看不见的“手”在采集我们的个人信息,我们变得没有安全感没有隐私可言.......
数字经济时代,如何保护我们的隐私安全?这是关涉我们每个人的重要问题,也是关乎未来社会可持续发展的重要问题。
关于此问题,在比尔盖茨曾经公开推荐过的一本书《工具还是武器:直面人类科技紧迫的争议性问题》一书中进行了大量的实例论述。
在科技的巨大车轮下,我们如何管理越来越强大的科技,避免它作恶?这是我们每个人都应思考的问题。
而这本书,将在世界风云激荡中指出可行的路径与方向,或许可以为当今的科技公司、科技管理部门和作为普通技术使用者的我们提供一些思考和启发。
1
新的挑战:工具和武器的两面性
这是一个充满希望的时代,但也面临新的挑战。数字技术实际上已经具备了工具和武器两面性。
它们让我们想起 1932 年爱因斯坦的话,他提醒人们机器时代会创造诸多收益,但同时呼吁人类要确保其组织能力与科技进步同步。
在我们不断努力为人类带来更多科技的同时,我们也需要为科技注入更多的人性。
当今的科技对经济的影响极不平衡,令有些人尽享巨大的进步与财富,而将有些人甩在后面,夺去他们的工作,并止步于那些没有宽带接入能力的社区。
它正在改变战争与和平的面貌,在网络空间创造新的战区,通过敌对国家支持的攻击和散布虚假信息,对民主构成新的威胁。
同时,它也加剧了国内社会的两极分化,侵蚀了隐私,并为极权政体创造了一种新的能力,使其能够对公民进行前所未有的监视。随着人工智能的不断发展,所有这些趋势也将加速发展。
我们看到这些动态关系正在影响我们这个时代的许多政治问题。人们对移民、贸易和针对富人和公司的税率争论不休,但我们很少看到政治家考虑,也很少看到科技部门承认科技在制造这些挑战中所起的作用。
就好像我们都被由此产生的症状吸引,以致我们缺乏时间和精力关注一些重要的潜在原因。尤其是随着科技的影响继续加速,它有可能让人们对事物的理解更加短视和浅保
2
所以,普通人能做什么?
讲真,作为普通的技术使用者,我们能做的其实很少,除了给手机和邮箱加两层密码验证,或者自己在设定密码时尽量随机一点(用专用笔记本记下你的密码)之外,其他更多地还需要技术的进步和相关法规的规范与完善。
在过去的十多年里,随着大数据和AI技术的发展,我们已经在数据隐私和更加便捷互联的世界之间做出了取舍。这是我们必须做出的交易。
然而,我们也可以尝试用新的技术去制衡现有新技术带来的隐私安全威胁,即依靠技术制衡技术,规避大数据的自有共享。
例如近几年新出现的“联合学习”,与常规方法需要把数据集中不同的是,此方法会从多个数据源获取数据进行学习。
这种新方法的出现,可以不需要通过读取或者转移安卓手机用户的短信,就可以训练他们用在这些收发短信上的预测语义模型。而类似的技术或许也会在多个领域开展实施。
3
隐私安全战斗中总结的三条教训
虽然指望科技变革放慢脚步是不现实的,但要求我们自己付出更多的心血来管理这一变革并不过分。
与以前的技术时代和发明(如铁路、电话、汽车和电视)相比,几十年来,数字技术在几乎没有监管甚至自我监管的情况下取得了进步。
现在应该认识到,这种放手的态度需要让位于一种更加积极主动的方法,以一种更加自信的方式应对不断变化的挑战。
更加积极主动的做法并不意味着一切都应该留给政府和监管部门。这就像要求政府什么都不做一样,既短视又不成功。
相反,这需要从每家公司的具体情况开始,在整个科技行业开展更加广泛的协作。
20 年前,当微软处于困境时,我们意识到我们需要改变。我从微软应对数据隐私安全的战斗中总结了三条教训,这三条教训我们一直还在学习和应用。
在我们思考科技在当今世界发挥的作用时,这些教训似乎也适用于整个科技行业,就像当年适用于我们公司一样。
第一,我们要勇于接受政府、行业、客户和整个社会对我们寄予的更高期望。
不管法律是否要求,我们都必须肩负起更多的责任。我们已经不再是什么突然发迹的行业新贵。我们需要努力树立榜样,而不是狡辩说我们可以为所欲为。
第二,我们需要广开言路,倾听别人的意见,多下功夫来帮助解决需要解决的技术问题。
为此,我们首先要与更多的人建立建设性的工作关系。但这只是开始,我们必须更好地理解别人对我们的看法和担忧。
我们需要付出更多的努力,把问题消灭在萌芽状态,不能等到它们恶化到失控。
这就要求我们更加频繁地与各国政府,甚至我们的竞争对手坐下来寻找共同点。
我们认识到,我们肯定会面临一些棘手的问题,我们需要鼓足勇气,敢于妥协。
曾经很多次,一些工程师争辩说我们应该继续战斗。有时,我几乎觉得他们在质疑我的勇气。
虽然有时候我们需要坚持自己的立场,但更多时候,我认为,妥协比继续战斗更需要勇气。它还需要坚持。
寻求共同立场的过程往往十分曲折,我们可能首先在谈判中陷入僵局和失败, 然后才能各退一步,并达成协议。
我们需要培养一种能力,使我们可以优雅地面对失败,即使在事情破裂的时候也要赞美对方,这样我们才能在正确的时机到来之时有能力再次出发,最终克服困难。情况几乎总是这样。
第三,我们需要制定一个更具原则性的工作方法。我们需要保持一种创业文化,同时将其与我们可以在内部和外部讨论的原则结合起来。
我们已经开始发展能力制定这样的原则,首先是针对反垄断问题,然后是针对互操作性和人权问题。
如本书第二章所写,根据萨提亚在 2015 年针对监视问题提出的建议,我们制定了一系列准则来指导我们对这一问题进行决策。
由此产生的云承诺将继续成为我们在其他领域的效仿对象。这种方法有许多优点,包括它有助于,同时也迫使我们思考我们所承担的责任以及面对这些责任的最佳方法。
在许多方面,这些方法要求整个科技行业实行文化变革。出于种种原因,科技公司传统上会首先专注于开发令人兴奋的产品或服务,然后尽快吸引尽可能多的用户。
除此之外,它们通常很少有时间或精力关注其他方面。
正如领英联合创始人里德霍夫曼所创造的新词“闪电式扩张”所准确捕捉到的那样,如果想在全球范围内开发市场领先的技术,那么速度优先于效率的“闪电式的快速路径”不啻为最佳途径。
即使公司已经取得全球市场领导地位,也需要迅速采取行动。可想而知,如果沉重的需求可能拖累创新,科技公司将会出现怎样巨大的担忧。
这些担忧固然重要,但鉴于目前科技在世界上所扮演的角色,如果一家科技公司的发展速度超过其思考的速度,或者它根本不考虑其服务或产品的更普遍的影响,则同样十分危险。
《工具还是武器》这本书的论点之一是,公司尽其所能履行社会责任是取得成功的必由之路。萨提亚明确指出,当这些问题出现时,我们需要快速行动,但应在我们的技术上安装”保险杠“。
拥有能力预见问题并确定原则性方法来解决这些问题,才更有可能在加速时确保“不会翻车”。
这至少有助于避免公众争议和潜在的声誉损害,并因此迫使管理层不得不花费大量时间来应对,而无法将精力集中在产品开发和用户增长上。
所有这些,都要求政府采取更加积极和自信的方式来监管数字技术,这一点已经越来越重要。
如同本书所述其他内容一样,这也是说起来容易做起来难。不过有一些重要的经验值得借鉴,在这本书中已有诸多论述,值得深入研究和参考。
总之,要实现多利益相关方合作,关键是要认识到每个群体各自需要扮演的角色。
政府官员居于独特的领导地位,尤其在民主社会中,因为他们是民选的社会问题决策者。只有他们才有权力和责任规划公共教育的进程,以及制定和实施我们所有人赖以生存的法律。
公司和非营利组织可以带来公民精神,与政府互补和合作,并补充公共部门经常需要的额外资源、专业知识或数据。
公司和非政府组织可以通过试验和加快行动来测试新的想法,特别是跨国行动。我们都需要欣赏和尊重彼此的角色。
最后还有一点,也是最重要的一点,那就是,这些问题的影响远远超越了任何个人、单个公司、单个行业,甚至科技本身。
它们关乎民主自由和人权的基本价值。科技行业之所以能够诞生和发展,是因为其得益于这些自由。
因而,我们对未来负有责任,应该帮助确保这些价值观在我们和我们的产品淡出已久后依然会继续存在,甚至更加繁荣昌盛。
这个大背景能够帮助我们拨云见日。我们面临的最大风险不是源自人们为解决这些问题做得过多,而是源自人们做得不够。这种风险也不是源自政府行动太快,而是源自它们没能及时行动。
技术创新的脚步不会放缓,管理创新的工作也需要与时俱进。
本文整理自《工具还是武器:直面人类科技紧迫的争议性问题》,布拉德史密斯、卡罗尔安布朗合著,中信出版集团出版,版权归作者及本书所有,转载请务必注明作者及作品出处。
《工具,还是武器?直面人类科技最紧迫的争议性问题》
布拉德史密斯、卡罗尔安布朗 著
在科技的巨大车轮下,我们如何管理越来越强大的科技,避免它作恶?这是我们每个人都应思考的问题,而这本书,将在世界风云激荡中指出可行的路径与方向。
《纽约时报》畅销书,微软总裁扛鼎之作,比尔盖茨、沈向洋亲自作序,美国前国务卿等人联袂推荐直面人类科技最紧迫的争议性问题,避免“科技作恶”。