美国国会的质询没有让Facebook的领导人感到不安,但Cambridge Analytica下跌的股价却让他们感到焦虑。他们开始意识到也许他们的功利主义策略和极速的产品开发使组织中产生了大量盲点。公司开始对运行中的所有事物进行审查,试图发现是否存在没有预想到的缺陷——那些如果没有被检查出来可能会导致丑闻的缺陷。
Facebook的回应中包括承诺建设一支诚信团队,这支规模和Instagram相当的团队将负责处理Facebook“家庭”中所有的内容和隐私问题。
奇怪的是,这个由盖伊·罗森领导的团队直接向业务发展副总裁哈维尔·奥利文汇报,哈维尔的直接汇报对象则是扎克伯格。每个参与修复产品的人都不想把这件事做得太过,至少不能破坏Facebook的业务。
尽管如此,他们仍朝着正确的方向前进了一步。斯特罗姆问罗森是否可以让一部分诚信团队的新员工专门负责Instagram的问题——因为Instagram总体来说并没有很多的新职员。他担心,如果他们不立即对自己的问题有更多关注的话,Instagram之后可能会处于和Facebook一样的尴尬境地中,他们面临的一些问题与Facebook类似,而另一些则是Instagram独有的。在Facebook上人们使用真实身份,而Instagram的用户则可以是匿名的。在Facebook上内容可以得到疯狂转发,但除非你知道正确的标签,否则很难在Instagram上找到危险的社区。Instagram不可能采取和Facebook一样的策略来查找平台上那些最糟糕的帖子。
由于Instagram的内容审核在其被收购后,就被转移到了Facebook,所以除了平台上最有名的用户之外,斯特罗姆并不知道具体内容是如何处理的。现在的情况和以前不同了,以前他们自己的员工会亲自审核平台上所有的不良内容。在过去的几年中,Instagram的全体员工一直都致力于通过推广优质内容来塑造社区,但没有花很多精力来阻止不良内容的传播。
Instagram有一套独立的社区规则,这套规则是为在视觉网络上打造个人生意的人而打造的。它规定,用户不能出于商业目的发送垃圾邮件,或者盗取他人的内容,或者发布自己孩子的裸照。用户向Instagram举报的所有内容都会和Facebook被举报的内容一起进入等待序列。然后,Cognizant(高知特)和埃森哲等外部承包商会迅速进行筛选,判断那些会给人留下心理阴影的图片该不该被删除。这一系统之所以必要,是因为Facebook是一家企业,需要尽可能地减少花在人工审核上的成本。Facebook员工的平均年薪超过6位数,而位于凤凰城的承包商,年薪可能只有28 800美元,位于印度海得拉巴的可能只有1 401美元。他们中有些人只坚持了几天或几个月,因为每天都见识到人性最丑恶的一面对他们的心理健康造成了沉重负担。
罗森团队中真正的全职员工负责从更系统的层面思考问题,他们会优先处理那些让Facebook在世界各地政府中惹上最多麻烦的问题,比如选举中的错误信息和恐怖分子的招募。Instagram似乎是他们最不担心的,因为它的丑闻相对较少。
但斯特罗姆仍然担心视频直播等领域存在的问题。Facebook投入了大量资金,想要快速找到视频直播中出现的暴力画面。据BuzzFeed(美国的新闻聚合网站)统计,从2015年12月到2017年6月,Facebook上至少直播了45起暴力事件,包括谋杀、虐待儿童和枪击事件。在Facebook推出视频直播后的一年,Instagram也在2016年推出了这一功能。斯特罗姆认为完全有理由加强Instagram对直播暴力的防御力。尽管媒体还没有报道过Instagram存在类似的问题,但Instagram的直播比Facebook的更受欢迎,所以出现同样的情况只是时间问题。
因为Instagram是照片平台且不要求实名制,所以在这一平台出售毒品、提倡自杀、发布充满仇恨和种族主义的内容要更加容易。恐怖分子在Instagram上招募新人,正如在Facebook上一样,只不过他们的手法更加隐蔽。比如使用话题标签组织他们的内容,以及利用表情包招募年轻人。斯特罗姆认为Instagram需要招聘更多专门监控这些东西并十分了解平台的人。
罗森认真倾听了这一看法。与此同时,他也渐渐发现了一些专属于Instagram的问题的严重性,这在一定程度上要感谢一个叫艾琳·凯里的女人,罗森最近收到了她发来的一条信息。
自2013年以来,凯里一直试图让Instagram关注其应用上贩卖鸦片类药物的问题,当时她代表普渡制药在一家咨询公司工作,普渡制药是奥施康定的生产商。真药和假药,以及其他毒品,都会在Instagram上公开出售,通过#opioids(鸦片类药物)或#cocaine(可卡因)等标签就能很容易搜索到。这些帖子里通常会有一个电话号码,用来协调在WhatsApp或其他加密聊天应用中的交易和支付。
每次凯里打开Instagram,都会花几分钟搜索毒品的相关内容,然后向Instagram举报。她通常会收到回复,说这些帖子没有违反Facebook的“社区标准”。在过去几年中,她进行了数百次举报,也被这一问题搞得越发愤怒,尽管这早已不是她的工作了。2017年,美国死于鸦片类药物的人数增加了一倍多,达到了47 000人。她认为,Instagram是把这些药物和年轻人联系起来的一个关键途径。她开始将自己所有举报的截图以及Facebook不作为的回应整理成一份文件,并将其提供给媒体和Facebook的高管。
2018年4月,她终于通过Twitter私聊找到了罗森,并让他在Instagram上搜索#oxys,当时出现了43 000个结果。“我的天哪,”罗森回应道,“这超级有帮助!”多年来,Instagram一直都没有主动去处理贩毒,也没有关注凯里的举报中呈现的趋势。在罗森的推动下,公司在扎克伯格作证的前一天删除了该话题标签。
然而,删除一两个犯罪标签并不能完全禁止Instagram上的毒品销售。问题仍然普遍存在。因此,罗森告诉斯特罗姆,他要求有自己的诚信团队这一点是很有道理的。
但是扎克伯格提出了反对。他说,Instagram必须尝试用自己的资源解决问题。当前Facebook陷入了困境,所以Facebook才是重中之重。斯特罗姆可以和罗森与Facebook的优先团队进行协商,如果他们有时间的话,让团队中的一部分人帮忙看看Instagram特有的问题。
扎克伯格再一次将Facebook的需求置于Instagram之上。他的逻辑是可以把所有工作集中起来以提高效率。但在实践中,斯特罗姆看到的是,这种企业层级让用户在应用上的安全难以得到保障。