社交账号登录

社交账号登录

0/34

上传头像

拖拽或者缩放虚线框,生成自己满意的头像

头像

预览

忘记密码

设置新密码

硅谷技术先驱杰伦·兰尼尔说,互联网走上了歧途,你可以帮着拯救它 | TED 2018 现场报道

智能

硅谷技术先驱杰伦·兰尼尔说,互联网走上了歧途,你可以帮着拯救它 | TED 2018 现场报道

黄俊杰2018-06-20 07:06:11

pc蛋蛋预测器 www.z83e.com.cn 首先,猫和狗,你选哪一个?

杰伦·兰尼尔(Jaron Lanier)相信拯救互联网需要从你开始。第一步:删掉所有社交媒体账号,或者,至少先停用 6 个月。

这位计算机科学家、硅谷老一代创业明星在上月底出版的新书《立刻删掉所有社交媒体账号的十个理由》用猫狗打比方说,脱离社交媒体,你可以活得更像只猫。

猫按自己的想法生活,不会听人使唤。

而狗可以被人训练,根据不同指示作出不同反应。他说这就像社交媒体的用户,只不过驯化用户的不是某个具体的人,而是大公司掌握的人工智能算法。

这些公司实时监视着数字世界里每个人的一举一动,拿到数据后,通过算法给不同人展示不同的信息和广告。

当算法发现假消息比真消息更能引起你的反应,它们就会推荐假消息。当算法猜测有人可能会因特定内容愤怒,也会发送过去——它并不真正知道什么是愤怒,但它关心由此带来的评论和活跃度。

你的视野受它们影响。

算法决定你发的照片、文字会被谁看到,有多少人评论点赞。而外界评论、点赞带来的多巴胺分泌引导着你写什么文字、发什么照片、用什么滤镜……上一次你因为点赞的人少而焦虑是什么时候?

你的行为也受它们影响。

如果你曾经听过这个观点,可能是因为兰尼尔已经说了 8 年。他对社交媒体的质疑在 2010 年变成了?You Are Not A Gadget(《你不是一件电子设备》,中译本链接)——如果社交媒体是一个大机器,那你不要变成机器的一个部件,缩减自己的能力以适应机器的规则,比如一次只写 140 个字、只发社交媒体上受欢迎的照片。

那本书被书评人盛赞,《时代周刊》因此将兰尼尔选入 2010 最有影响力 100 人。但书在硅谷的口碑两极,也不太受大众欢迎,那会儿批判社交媒体、Web 2.0 是对潮流的挑战。

兰尼尔是硅谷技术先驱之一。他在 1984 年创办虚拟现实公司 VPL,定义了“虚拟现实(Virtual Reality)”这个词。而他担任首席科学家的 Eyematic 在 2006 年卖给 Google,成为 Google 图像识别技术的起点。但据他说,这本书还是让他失去了一些老朋友。

兰尼尔 2015 年和当时的 Google X 的 Sebastian Thrun 出席斯坦福的一个活动

8 年之后,兰尼尔的观点不再那么异类。Facebook 首任总裁肖恩·帕克(Sean Parker)去年年底说社交媒体从一开始就是个关于成瘾的生意

“我们每隔一会儿都要给你点多巴胺,比如有人给你的照片或者更新点赞、留评论之类……这是一个关于社会认可的反馈循环机制……发明家们、创造者们,比如我、马克(扎克伯格)、Instagram 的 Kevin Systrom 都很清楚,但我们还是这么做了……这套机制正在改变你与社会的关系、改变你和其他人的关系?!?/p>

在 Facebook 负责用户增长到 2011 年的副总裁查麦斯·帕里哈皮蒂亚 (Chamath Palihapitiya)随后表示这种基于多巴胺的反馈循环机制是全球的问题、正在毁灭社会的运作,并呼吁台下的斯坦福 MBA 毕业生们像自己一样远离社交媒体。Facebook 对此回应说他们离开很多年,“那是个非常不同的公司,我们已经意识到公司责任也随增长而变重?!?/p>

Twitter 联合创始人埃文·威廉斯(Ev Willaims)则说:“我曾以为人人都能自由说话、自由交换信息与观点,世界就能自动变得更好。我错了?!?/p>

社交媒体利用信息和产品设计影响人的行为并不是秘密,Facebook 2014 年就有一个大规模人类实验——向 69 万不知情用户推送特定信息,看看用户情绪会受怎样影响。中国学者也有微博激励了负面情绪传播的研究结果。

反思的不只有社交媒体高管,还有帮助建设了计算机与互联网的人。

万维网发明人蒂姆·伯纳斯-李(Tim Berners-Lee)警告了一次、一次、又一次。Google 产品设计师特里斯坦·哈里斯(Tristan Harris)从公司辞职发起 Time Well Spent 运动,称今天互联网公司吸引人上瘾产品设计不道德。兰尼尔曾经的室友,自由软件运动精神领袖理查德·斯托曼(Richard Stallman)更为直接,“去他妈的,如果(免费服务的)代价是这些公司得知道我们的一切,它们就不应该存在?!?/p>

一连串的丑闻之后,社交媒体如此运作的合理性也受到质疑。扎克伯格出席美国国会和欧洲议会的质询,花了至少 3000 万美元登道歉广告。

删除 Facebook 运动一度升温,虽然又逐渐淡去。

互联网服务有动力抓走你更多时间。KPCB 2018 年度互联网报告的两张图:互联网用户数量增长已近枯竭;它们通过抓住更多用户时间获得新增长,目前成年人平均每天 3.3 小时,是 2009 年的 11 倍
互联网服务有动力抓走你更多时间。KPCB 2018 年度互联网报告的两张图:互联网用户数量增长已近枯竭;它们通过抓住更多用户时间获得新增长,目前成年人平均每天 3.3 小时,是 2009 年的 11 倍

兰尼尔认为现在还不能停。他在今年 4 月的 TED 大会上提出,这些公司已经不是社交媒体和广告商,它们是行为改造帝国(Behavior-Modification Empires),影响着数亿人的自由意志。

但 Facebook、Twitter、微信朋友圈、微博……这些社交媒体已经渗透进半数人类的生活,还有头条、YouTube 等类似设计的产品。如何远离它们?

“嗯,这是一个非常、非常、非常难的技术问题?!盩ED 大会演讲结束后,兰尼尔一脸严肃地对《好奇心日报》记者表示,“我可以分享一些我发现的工具,为这事还挺费神的。这实在有点技术,所以可能比较难解释?!?/p>

“一是电子邮件,”兰尼尔顿了一下,忍不住哈哈哈哈哈哈大笑了好几秒,接着说自己平时还会和朋友打电话、在家组织聚会、演讲,说着说着又忍不住大笑起来。那高频笑声让他听上去小了能有至少三十岁。

这位 58 岁的黑客还是不放过任何一个开玩笑的机会,而每个玩笑总是他自己先笑起来。

兰尼尔认为脱离社交媒体不会让一个人活不下去,而他自己就是一个人脱离社交媒体,依然可以有一个公共生活的例子——这里的社交媒体不包括点对点通信工具,就是说微信可以、朋友圈不行。

Twitter、Facebook,这些账号他自己从来都没有过,只有一些体验各种服务的假账号。

当然,按照他的说法,那些账号是只猫在用。现在他很担心那只猫的精神状况,怀疑她已经成了特朗普的粉丝——总对来访的猫抱有敌意。

虽然自己最担心的未来正逐渐变成现实,但兰尼尔总能有一种乐观。

他相信计算机历史上所有技术的发展,都是人为选择的结果,没什么是必然发生的。因此,所有事情都有得救。但也因此,所有事情都有变坏的可能。

感受过旧时代的残酷,兰尼尔一度认为虚拟现实是一个重启传播媒介的机会

不同于大律师牙医家长大的创业者,兰尼尔很小就感受过旧时代的残酷、人的邪恶。母亲进过纳粹集中营、父亲家大半亲戚死于乌克兰反犹屠杀。

生在美国也不太平。兰尼尔 7 岁的时候,一个远亲被反犹主义者杀死在街头,父母带着他从纽约搬去临近墨西哥边境的一个德州小城。甚至兰尼尔这个姓也是为了安全——之前的 Zepel 一听就是犹太人。

母亲在他 10 岁时死于车祸,那会儿的美国没有今天很多人抱怨的政治正确,老师“安慰”他说车祸不是一个悲剧性意外,只是犹太人谋杀耶稣的报应而已。

倒不是说他的童年只有不幸。艺术圈的父母从小鼓励兰尼尔接触器乐、绘画以及动手能力——他 11 岁设计了一个半球形穹顶,和父亲一起造出来住了进去。

兰尼尔设计的家,照片左侧是他父亲 Ellery | 图:Dawn of the New Everything (p. 31)
穹顶内部,这“房子”坚持了 30 年才不得不拆掉重建 | 图:Dawn of the New Everything (p. 31)

14 岁的时候,兰尼尔开始在新墨西哥州立大学读书,在家养骆驼、挤奶卖给嬉皮士餐厅换了学费。那是他第一次接触计算机。

见识计算机神奇的同时,兰尼尔也第一次接触到计算机科学家诺伯特·维纳(Norbert Wiener)的警告。

20 世纪初,一系列心理学行为实验成为热门话题。巴布诺夫的狗、斯金纳箱(老鼠)、小艾伯特(婴儿)……以科学为名的实验一路做到了人类身上。

维纳在 1950 年代著书提出,如果有一种随身设备,能够实时搜集每个人的数据并给予反馈,就可以让这些行为改造实验扩展到全人类身上。他认为这会带来灾难性的结果,但离人类还过于遥远——当时还很难想象 60 年后人手一部智能手机。

不过那是后来的事。兰尼尔先赶上了硅谷最有生机的时候。

1979 年,19 岁的兰尼尔已经从两间大学辍学,辗转来到硅谷开发游戏。

他在硅谷结识了一些聪明的大脑,比如当时还在加州理工教书的费曼教授、编辑《全球概览》的凯文·凯利、热衷音乐的数字民权组织 EFF 联合创始人约翰·佩里·巴洛、LSD 教父蒂莫西·利里(利里晚年成了各种计算机技术,包括虚拟现实的布道者)。

1984 年,兰尼尔和雅达利的同事汤姆·齐默曼(Tom Zimmerman)等人一起成立了虚拟现实公司 VPL。

VPL 做的产品和前两年火过的 Oculus、HTC Vive、PSVR 原理差不多:戴上头盔显示器,你就完全沉浸入虚拟世界。事实上,今天在卖的虚拟现实设备从外观上也都和 VPL 的发明很像。

戴着 DataGlove 和头戴式显示器的兰尼尔
VPL EyePhone HRX,1991 年推出,49000 美元一台。采用两个 3 英寸屏幕,分辨率 720*480
VPL 办公室里的虚拟现实手套及全身用的 Datasuit 原型机

兰尼尔早年展示 EyePhone 和 DataGlove

不同于今天这些专注于游戏的虚拟现实公司,兰尼尔想要的是社交。

从产品的名字也能看出来,VPL 的虚拟现实头盔叫 EyePhone——让眼睛连接世界。

他将虚拟现实视为一个人与人之间进行交流的可能。人们可以在一个虚拟的空间,抛开自己的真实形象、抛开种族、性别乃至物种限制,以任何自己想要的样子相互交流。

1990 年代初 ABC 电视台一期关于虚拟现实的节目里,一个年轻很多、也乐观很多的兰尼尔对着镜头说道:

我觉得我们已经带来了很多超过人类需要的技术,现代社会的主要问题就剩下疾病和自然灾害。其它所有物质问题技术都已经解决或者将要解决。
剩下来的主要问题都是人类自身行为所造成的。关于未来所需要的技术,我想到的是人与人相见的新形式,而虚拟现实就是最适合这样的新形式。

……虚拟现实最好的一点是,它是一个新东西,它会给我们从头再来的机会,让我们对一个新技术、对下一代媒介负起责任(以解决电视媒体过于浅薄的现实问题)。

但 VPL 太早,当时的计算机还没有 3D 图形处理器、万维网也要等到 1991 年才走出欧洲核子研究中心(CERN)。它注定是一个前沿探索项目,没有商业成功的可能。

消费市场没有可能,VPL 卖设备给企业、给 NASA(控制机械臂)、做了第一个虚拟现实手术模拟器,撑到 1992 年破产。

真正改变了人类社交方式不是 VPL 或者它的竞争对手,而是扎克伯格 2004 年在宿舍写的网站 thefacebook.com。

向数字集体主义宣战,兰尼尔成了对硅谷最不客气的硅谷批评家

离开 VPL 之后十几年,兰尼尔参与了几打大大小小的研究项目和咨询工作,还给电影和电台广告编过曲。

比较重要的包括图像识别公司 Eyematic、早期互联网底层技术协会 Internet2。同时他也是《少数派报告》的技术顾问之一(兰尼尔和斯皮尔伯格都是早期 TED 大会的??停?。

一些咨询工作再次引起他对技术的警觉。兰尼尔回忆说 1990 年代,有个保险公司高管知道机器学习技术后兴奋地描绘了这样一个商业前景:计算机根据数据预测出哪些人更容易得癌症,让保险公司提前避开。

2000 年代初,个人电脑逐渐普及、Google 连接起全球所有的网站、维基百科证明大规模调动用户生产内容(UGC)可行、社交媒体走出大学宿舍。

互联网泡沫破灭也不能阻止繁荣到来。

整个硅谷还带着早年的乌托邦,坚信互联网一切都免费。人们在互联网上建起一个个免费的网站,免费贡献信息、免费获取信息。

但免费的同时,硅谷并不排斥资本主义。到了 2000 年代,乔布斯这样的创业者已经取代了技术先驱们成为硅谷最大的偶像。

兰尼尔认为之后发生的各种问题都源自这样的冲突,以及接下来拉里·佩奇、谢尔盖·布林、马克·扎克伯格找到的道路。

Google 的两位创始人找了条路兼顾免费和资本主义——广告。Google 做免费网络服务给你用 - 拿走你的数据卖定向广告 - 做更多更好的免费服务 - 拿走更多数据卖更多定向广告。之后几乎所有免费的互联网服务都沿用了类似的商业模式。

硅谷认为 Google 找到了免费互联网的出路。而兰尼尔在这时候写了自己的“少数派报告”。

2006 年,兰尼尔在精英化在线杂志 EDGE 撰文《数字毛主义(Digital Maoism》,指责曾经鼓励独立网站、个人思考的互联网正在被集体主义所席卷。

他用维基百科举例说,“读一个维基词条就像研读圣经,作者和编辑只留下淡淡的踪迹?!?/p>

类似维基百科、Facebook(社交媒体)、Digg(新闻聚合)的聚合网站在 2006 年开始变多起来(所谓 Web 2.0)。信息流动无疑是加快了。

但在这些聚合网站,作者被有意弱化了。每个人写的东西、发的照片和链接成为了所谓用户生成内容(UGC),供访问者消费。当作者变得不再重要,多一个少一个影响也就不大了,聚合网站自然也不会给他们应由的回报。

尤其当 Facebook 在 2006 年发明信息流(News Feed)以后,人们在社交媒体上不再更多是刷网站提供的信息流、看里面不同人发的照片、说的话,而不再需要点开每个人的主页看他的状态。信息流此后成了所有社交媒体和聚合新闻网站的标配。

搜索引擎会这类网站排在独立的中小型网站前面,带去更多用户?;チ右桓龈龃蟠笮⌒〉耐?、一个巨大的去中性化社区,变成了少数几个大社交媒体吸走多数用户。

而在这些社交媒体里,用户都是免费提供信息,为它们的流量添砖加瓦,但却得不到什么回报。你可能有数千关注者,但所有关注者本质上关注的还是那个社交媒体提供的信息流。

  • 一开始。信息分散在不同网站上,通过超链接相互连接;用户通过搜索引擎主动寻找信息;作者很显眼。
  • Web 2.0。用户生成内容,几个大网站把内容聚合在一起,但信息还是人工或者以时间排序;用户开始被动获取信息;作者重要性下降。
  • 现在。大部分内容被聚集在少数几个网站里,最大的社交媒体开始阻止搜索引擎索引信息,社交媒体、新闻聚合网站通过算法给不同人推荐不同信息和广告;用户被动获取为自己量身定制的信息;作者可替代。

“互联网最美的地方在于它连接所有人。这里面有价值的是其他人。如果我们开始相信互联网本身是一个实体、有自己的声音,那我们就是在贬低其他人的价值、我们就是白痴?!崩寄岫吹?。

《数字毛主义》发布后数月,兰尼尔参与的图像识别公司 Eyematic 被卖给 Google,成为 Google 的图像识别部门。

据兰尼尔回忆,Google 联合创始人谢尔盖·布林(Sergy Brin)跟他说公司员工不能写那些争议性的文章。于是他套现走人。

之后兰尼尔加入微软,他的职业工作变得简单了一些,先是参与 Xbox Kinect 手势控制设备的研发,之后在微软研究院做实验性虚拟现实和增强现实项目至今。

他的精力越来越多花在布道之上,谈互联网、社交网络、人工智能带来的负面影响。从 2010 年至今,他已经出版了四本书,做了几百个演讲和对谈。

兰尼尔相信免费互联网加广告的商业模式是问题的根结

与此同时,互联网以及整个世界发生了大变化。iPhone 发起的革命让所有人 24 小时连着互联网、Google 成为比微软更值钱的公司、Facebook 和腾讯跟上移动时代垄断了全球的社交媒介。

智能手机和人工智能算法放大了社交媒体的问题,让兰尼尔担心的行为改造帝国真正成为可能。

他总结说这是免费经济的结果。

所有社交媒体都免费,靠广告赚钱。它们追逐的数字就是让人看更多广告,这就需要让用户更频繁更长时间使用自己的服务。

而更容易调动其人的却是负面情绪,不管是对一种仇恨言论的认同,还是对于不认同言论的反击。当社交媒体大到一定程度、拥有足够多用户数据的时候,算法总能帮负面情绪找到受众。

How to Design Better Social Media[email protected]Tobias Rose-Stockwell

这是假新闻的天然土壤。假新闻本身都是在调动情绪,适合社交媒体传播。原本媒体机构是守门人,虽然不完美,但社交媒体上一度完全没有任何限制。

到 2016 年年底,扎克伯格在 Facebook 发文为虚假信息传播道歉。不只一个人在道歉信右侧看到假新闻。

扎克伯格道歉信右侧,一篇是花花公子创始人自杀(他在次年去世,自然死亡);一篇是伍兹永久退出 PGA(也没有发生)。第二篇甚至直接挂上体育网站 ESPN 的网址 | 截图:Lou Cabron

兰尼尔认为社交媒体的信息传播直接导致最近几年各种民权运动遇到的反弹。

比如阿拉伯之春,极权统治下的年轻人在社交媒体的帮助下聚集起来推翻了埃及、叙利亚等国的独裁政权。但几年之后那里没有变得更好,极端主义随着社交媒体传播地更快。

类似的,争取女性在游戏平权的运动遭遇反扑演变成充斥着强奸、谋杀威胁的 #GamerGate 大规模骚扰运动;在美国抗议警方对黑人暴力的 Black Lives Matter 运动升温之后,KKK、新纳粹这些极右翼群体声势迅速扩张到了可以大规模集会、引发暴力冲突的地步。在斯里兰卡等原本就多冲突的地区,假新闻带来的仇恨直接引发暴力冲突。

历史上一个民权运动取得胜利后,极少会这么快出现如此反弹。兰尼尔认为反弹接二连三发生是群体情绪受算法影响的结果。算法总能找到仇视这些运动的受众,尽管这不是工程师们的初衷。

世界在对互联网造成的问题做出回应,但这并不保证会有好的结果

兰尼尔依然不是今日硅谷的主流,但他已经不再是孤立。

2018 年 4 月,TED 大会请兰尼尔登台介绍他对行为改造帝国的警告——他已经有快 20 年没在那个宣扬创新与乐观的大会演讲过。

兰尼尔 4 月在 TED 大会演讲

“我们曾经相信当互联网连接起每个人,世界就会自然变好。结果并不是这样?!?TED 主理人克里斯·安德森在邀请兰尼尔上台时反思说,随后大会将兰尼尔的演讲作为今年的首个视频在线上公开。

在兰尼尔演讲的同时,Facebook CEO 马克·扎克伯格正在华盛顿被参院盘问。

世界在对互联网造成的问题做出回应。

Google 和苹果今年都在新系统中加入对成瘾的限制,开始告知用户每天用了什么服务、用了多少时间。你可以选择限制自己的使用时间。

没有广告收入顾虑的苹果更进一步,在 6 月宣布升级浏览器反追踪功能,减少互联网服务能够追踪的用户信息。

社交媒体也在回应,扎克伯格说 Facebook 人工审核团队今年会增加到 2 万人规模,并且用人工智能帮助过滤仇恨言论。

兰尼尔不相信这会有什么好结果。他认为这是另一个科技界对于人工智能宗教式崇拜的例子。

“我们现在还没有大脑如何运作的科学定义。举个例子,我们不知道信息在大脑内是如何编码的。我们不知道对话具体是怎么产生的?!崩寄岫浴逗闷嫘娜毡ā繁硎?,“这不代表说我们永远不会知道。但现在我们得诚实地说,我们确实不知道?!?/p>

“这不是说人工智能算法是假的,只是说我们并不理解它如何工作?!彼钩渌凳淙胧葜?,机器学习算法可以得到一个结果。但这背后还是个黑盒子,工程师也不清楚结果具体怎么得出的,没法保证它会越变越好。

因为机器学习算法是黑盒子,在优化的时候只能根据工程师能看到的结果倒推表现,于是算法防御极端信息的能力就没法稳定提升。

ISIS 的新媒体团队就多次成功绕开社交网络的防御算法,它们做过一个 Twitter 应用,用户下载注册后会自动上传恐怖组织宣传内容到个人账号。当 ISIS 2014 年宣布向巴格达进军的时候,你在 Twitter 搜索“Baghdad”最先出现的 4 张照片,有两张是 ISIS 的宣传。

传播仇恨的组织在用人力和人脑攻击社交媒体的过滤算法。

Facebook 上月承认说算法能有效过滤暴力、色情图片,但即便人类审核员加人工智能算法也只能筛出 38% 的仇恨言论。没有被筛出来的仇恨言论还是会照常推送给社交媒体的用户。

社交媒体公司自己监督信息还带来一个显而易见的新问题。

现在,扎克伯格提出的想法还包括给媒体分级,由 Facebook 决定什么媒体更可信。如果实施,这将是直接的言论审查。

扎克伯格本人明确说过,管理这家公司更像管理一个政府。但不同于政府的是,今天互联网公司通过股权架构将投票权抓在少数几个管理者手上(Facebook 多数投票权属于扎克伯格一个人),它们比大多数集权国家都更集权。

从一个追逐增长的算法决定 20 亿人看什么,变成一小群人决定 20 亿人看什么,听上去没有更好。

在其它一些国家,这样的变化已经在发生。比如中国、俄国、埃及等等。政府已经在接管互联网。所有公司的算法服务于一个无可辩驳的声音。

兰尼尔认为最后的解决方案还是在每个人,而不是坐着等大公司自我反省或者政府介入。

每一个用户切断与社交媒体的关系,就给科技公司多一分压力,这会是一个开始。

这将逼社交媒体改变运作方式,从免费变成某种形式的付费。不管是订阅付费,还是依靠某种自动小额支付系统回报更大规模的创作者。总之就是时间和用户注意力不能是科技公司关注的唯一指标。

兰尼尔自己并没有具体如何设计付费体系的解决方法。他相信目前没有一个替代的方案出现是因为整个互联网当年都跟着 Google 和 Facebook 的商业模式走,没有对其它路径做足够探索。

彭博社上月报道说 Facebook 内部正在研究一个舍弃广告的付费版的可行性。

“计算机技术的发展中,没什么是注定的?!崩寄岫故窍嘈耪饩浠?。

希望他是对的。


长题图:Matrix 剧照

横题图:兰尼尔在法兰克福书展获奖的演讲致辞,以老挝民族乐器 Khaen 的演奏开场

兰尼尔的 4 本书:

2010 You Are Not A Gadget | 《你不是个玩意儿》(难以理解的译名)

2013 Who Owns the Future | 《互联网冲击:互联网思维与我们的未来》(另一个难以理解的译名)

2017 Dawn of the New Everything | 《虚拟现实:万象的新开端》(自传)

2018 Ten Arguments for Deleting Your Social Media Accounts Right Now | 《立刻删掉所有社交媒体账号的十个理由》(中译暂无)

喜欢这篇文章?去 App 商店搜 好奇心日报 ,每天看点不一样的。

329| 879| 896| 306| 725| 365| 144| 206| 404| 453|