9月30日，一名验尸官裁定，14岁的英国少女莫莉·拉塞尔（Molly Russell）因患有抑郁症和“网络内容的负面影响”而自残死亡。调查得知，来自伦敦西北部哈罗的莫莉在生命的最后几个月接触了大量有害的社交媒体内容。这名少女是如何在社交媒体上陷入绝望漩涡的？现在的儿童正在面对怎么样的网络环境？
2017年，一名伦敦少女在被网络生活的阴暗面征服后自杀了。
11月20日晚，莫莉·拉塞尔和她的家人一起吃了晚餐，然后坐下来看了一集《我是名人，让我离开这里！》。一顿家庭聚餐，然后看一个流行的电视节目：这是英国数百万家庭的典型场景。正如莫莉的母亲珍妮特（Janet）对警方说的那样：“每个人的行为都很正常”。
第二天早上7点左右，珍妮特来到莫利的卧室，发现了她女儿的尸体。
莫莉，14岁，来自伦敦西北部的哈罗，在家人不知情的情况下，在社交媒体上陷入绝望漩涡后自杀。在她生命的最后一年里看到的一些内容与黄金时段的家庭电视节目完全不一样。
正如莫莉的父亲伊恩（Ian）在女儿死因调查时所说的那样，这是“最凄凉的世界”。“这是一个我不认识的世界。这是一个网络世界的贫民窟，一旦你陷入其中，算法意味着你无法逃离，它会不断推荐更多的内容。你逃不掉的。”
▲莫莉的父亲。
莫莉在很多方面都有一个典型青少年的兴趣和爱好：音乐剧《汉密尔顿》、摇滚乐队《夏日五秒》、学校演出的主角。伊恩在北伦敦验尸官法庭的审讯开始时，对莫莉的这部分生活表达了深情的敬意，他说莫莉是一个“积极、快乐、聪明的年轻女士，她注定要做善事”。他说：“人们太容易忘记她本来的样子了：一个充满爱和幸福的人，一个充满希望、机会和潜力的年轻人。”
在莫莉生命的最后12个月里，家人已经注意到她的行为发生了变化。她的父亲说，她变得“更加孤僻”，在房间里独处的时间更多了，但仍然“愉快地”为家庭生活做出了贡献。拉塞尔夫妇将她的行为归结为“正常的青少年情绪波动”。
2017年9月，莫莉告诉女儿，家人很担心她，但女儿称她的行为“只是我正在经历的一个阶段”。伊恩说莫莉在生命的最后两个月里看起来“精神很好”。
社交媒体上的阴暗面莫莉的一些社交媒体活动——音乐、时尚、珠宝、哈利·波特——反映了她父亲描绘的那个积极、聪明的人的兴趣。但莫莉网络生活的阴暗面让她不知所措。在莫莉去世前的六个月里，她在Instagram上保存、点赞或分享了16300条内容，其中2100条与自杀、自残和抑郁有关。她最后一次使用iPhone访问Instagram是在她死的那天，也就是凌晨12点45分。两分钟前，她在平台上保存了一张图片，上面写着与抑郁症有关的标语。
在照片、图片和视频分享应用Instagram上，莫莉看到了一些最令人不安的内容，包括一段配有音乐的图片视频剪辑，内容涉及自杀、抑郁和自残。一些视频包含电影和电视中的场景，包括一部讲述青少年自杀的美剧《十三个原因》。莫莉总共观看了138个包含自杀和自残内容的视频，有时会分批“狂看”。
一名儿童精神病顾问在听证会上说，他在看到莫莉死前在Instagram上看到的内容后，几周都睡不好觉。
高级验尸官安德鲁·沃克（Andrew Walker）命令Meta公司（Instagram和Facebook的所有者）的健康和幸福政策主管伊丽莎白·拉贡（Elizabeth Lagone）从美国飞来作证，并让她看了拉塞尔一家的代表奥利弗•桑德斯（Oliver Sanders KC）的许多帖子和视频。她为其中一些帖子的适当性进行了辩护，称它们对儿童来说是“安全的”，因为它们代表着试图提高用户对精神状态的意识，并分享他们的感受。桑德斯质疑一个14岁的孩子是否能区分提高自残意识的帖子和鼓励自残的帖子。
▲伊丽莎白·拉贡。
有些内容显然是站不住的，即使是在Instagram 2017年的指导方针下，拉贡也该为莫莉浏览了本应从平台上删除的内容道歉，因为这些内容美化或鼓励自杀和自残。但是拉贡试图辩护的内容——例如，“某人情感的表达”——引起了桑德斯的愤怒。他质疑，带有“我不想再这样做了”等口号的帖子，怎么可能适合14岁的孩子观看。他一度提高了声音，说Instagram是在选择把内容放在“抑郁儿童的卧室里”，并补充说：“你没有权利这么做。你不是他们的父母。在美国，你只是一笔生意。”Instagram的最低年龄限制是13岁，莫莉注册账号时只有12岁。
Pinterest社区运营主管贾德·霍夫曼（Jud Hoffman）在审讯中表示，他对莫莉看到的内容“深感遗憾”，而且当时该平台并不安全。霍夫曼还表示，该平台仍然“不完美”，违反其政策的内容“可能仍然存在”。
▲贾德·霍夫曼。
此外，法庭还听说莫莉有一个推特账户，她用这个账户联系了网红萨利斯·罗斯（Salice Rose），后者曾在网上讨论她的抑郁症经历，试图获得帮助。伊恩将其描述为“对着虚空呼唤”，并表示像莫莉这样的儿童向善意的网红寻求支持是一种“危险”，网红无法提供专业的支持。他还在莫莉死后查看了她的YouTube账号，发现有“大量令人不安的帖子”，涉及焦虑、抑郁、自残和自杀。
审讯还听取了儿童精神病学家纳维博士（Navin Venugopal）的证据，他说莫莉因所观看的内容而“处于危险之中”。莫莉中学的校长也提供了证据，描述了跟踪社交媒体给学生带来的风险是“几乎不可能的”。儿童保护慈善机构“全国防止虐待儿童协会”的首席执行官彼得·万利斯爵士（Sir Peter Wanless）说：“这一裁决将在硅谷掀起冲击波。当科技公司将儿童的安全置于商业决策之下时，它们必须做好承担责任的准备。这一时刻对各地儿童的重要性怎么强调都不为过。”
为爱奔走莫莉的父亲，59岁的伊恩在法庭外说：“我们听到了很多关于一个悲剧的故事——莫莉的故事。不幸的是，现在有太多的人受到了同样的影响。“在这一点上，我只想说，不管看起来多么黑暗，希望总是存在的。如果你正在挣扎，请与你信任的人或许多很棒的支持组织之一谈谈，而不是观看可能有害的在线内容。请尽你所能活得长久，保持强壮。”
自从莫莉死后，拉塞尔一家成为了网络安全的杰出倡导者，并全程参加了调查。在对女儿死因的调查开始时，伊恩就呼吁采取行动，“防止如此年轻的生命再次被浪费掉”。
在英国，网络世界的监管格局正在发生重大变化，莫莉的家人是推动这一转变的重要因素，他们是呼吁改善互联网安全的知名活动人士。
据一位密切参与制定网络安全法案的人士称，拉塞尔夫妇发挥了至关重要的作用。“拉塞尔家族为网络安全法案提出了一个无法拒绝的理由，”基德伦（bebeban Kidron）说，他是一名跨议会议员，也是审查该法案的议会联合委员会的成员。基德伦女士向拉塞尔致敬，“这家人成立了莫莉·拉塞尔基金会，致力于帮助25岁以下的年轻人获得他们所需要的心理健康支持。“伊恩的宣传活动确保我们听到了以前从未在公开法庭上听到过的证据，”基德伦说。
网络安全法案赋予了科技公司保护儿童免受有害内容和系统伤害的注意义务。他们必须对平台给儿童带来的潜在危险进行专业的风险评估，并提出减少这些风险的建议。通信监管机构Ofcom将审查这些建议，并监督这些公司遵守这些建议的情况。违反该法案将面临高达1800万英镑或公司全球收入10%的罚款。
目前，该法案在议会的进程被暂停，但预计将在10月底恢复。英国首相特拉斯（Elizabeth Truss）表示，她希望修改法案，以确保对言论自由的更大保护，但保护年轻人的措施将保留。
卡内基英国慈善机构的受托人威廉·佩兰（William Perrin）表示，该法案将“对解决一个根本问题有很长的路要走，这个问题就是社交媒体平台没有适当的系统和程序来保护儿童免受伤害”。
据悉，针对儿童网络安全的另一项重大改变已经到位，根据去年推出的《适龄设计规范》（AADC）。这是一项防止网站和应用程序滥用儿童数据的规定，包括以对儿童健康“有害”的方式滥用儿童数据。
AADC的设计师表示，“有害”方式的一个例子是利用儿童在线活动生成的数据引导他们掉进有害内容的兔子洞。“莫莉死的时候，政策还没有到位，当时Meta正在分析她的行为，以工业规模向她输送有害物质。他们当时的行为现在已经违反了准则。”
英国儿童事务专员表示，她担心莫莉的悲剧可能会重演。此前有研究显示，近一半的儿童在网上看过有害内容，包括鼓励自残和自杀的内容。
蕾切尔·德索萨爵士（Dame Rachel de Souza）9月29日发表的研究发现，在8至17岁的儿童中，有45%的人遇到过他们认为不合适的内容，或让他们感到担忧或不安，但其中一半人没有报告。
调查发现，除了自残和自杀的内容外，儿童还接触到色情和暴力图像、匿名喷子和节食图像的内容。
德·索萨在接受《每日电讯报》采访时表示：“这些内容不应该给这个年龄的孩子看，科技公司应该确保它们被撤下。”当被问及是否还有另一个孩子像莫莉一样死去的风险时，她说：“我认为这绝对有可能发生。”
在这份名为《数字童年》（Digital childhood）的报告的前言中，德索萨表示，科技公司的自我监管失败了。她说，孩子们很少去寻找这些内容。“它是通过高度复杂的推荐算法推广和提供给他们的，这些算法旨在吸引和留住他们的注意力。”
该报告还证实，大量儿童在建议年龄之前就活跃在社交媒体和信息平台上，8至12岁的儿童中有三分之二在使用社交媒体。参与调查的10名儿童中有7名同意社交媒体平台应该执行最低年龄要求，90%的家长也持同样观点。
该调查还调查了父母对孩子生活的焦虑。三分之二（67%）的人表示，他们担心孩子在网上浏览的内容，其中年龄较小的孩子的父母更有可能担心。四分之三（75%）的受访父母表示，他们使用工具来监控和限制孩子在网上看到和做的事情。
德·索萨说，对莫莉之死的调查“令人痛心地提醒”有害内容对年轻人心灵的影响。“然而，通过网络安全法案和英国通信办公室的谨慎监管，我们有巨大的机会纠正这些错误。至关重要的是，该法案要以儿童安全为核心。”
新闻来源：卫报，部分图片来源于网络
iWeekly周末画报独家稿件，未经许可，请勿转载
,
