在新加坡盛行的通讯应用Telegram的所有者和管理者，连政府官方也无法联系到他们，而他们对有害的内容也不承担任何责任。令人震惊的是，教育工作者竟然通过这个通讯应用，与学生和家长沟通。
最近一项调查显示，网络危害在新加坡是一个越来越普遍的问题。其中，年轻人面对网络危害的风险最高，当中有58%曾经历或有亲友遭遇过网络危害，女性更易遭受网络性骚扰等性伤害。最常见的四种网络危害是性骚扰、网络霸凌、冒充或盗用身份和诽谤。
非营利组织新加坡妇女发展与支援组织（SG Her Empowerment，简称SHE）对1000多名新加坡公民和永久居民展开调查，并于9月发布新加坡网络危害调查报告。报告显示，在每五名受害者中，就有两人面对严重的身心创伤，例如担心个人安危、抑郁和自残；三成受害者也感到愤怒、难过、焦虑、尴尬、羞愧或无助。
另外，根据民调机构益普索（IPSOS）10月发布的报告，有近半数（46%）新加坡人认为，心理疾病是当前国人面对的最大健康问题。新加坡国立大学与教育部于今年4月合作展开的一项全国调查则显示，约三分之一的本地青少年面对抑郁、焦虑和孤独等心理疾病。
以上令人担忧的数据，以人工智能（AI）广泛应用之前的网上活动为依据，如今AI的普及，更让问题每况愈下。
新加坡更易遭受网络危害
过去，不法之徒必须上传他们获得的色情照片，才能造成伤害。如今，他们可从社交媒体截取无辜者的照片，并通过AI应用合成伪造出逼真的色情图像。今年9月，这样的事就发生在只有3万人的西班牙阿尔门德拉莱霍镇（Almendralejo）。小镇上20多名年龄介于11岁至17岁的无辜女孩成了受害者。她们在社交媒体上发布的衣着整齐照片遭截取，经过窜改后在网上流传。
生成式人工智能（GenAI）处于商业化发展的初期阶段。如果不加以控制，不法之徒可能利用AI生成的图像和视频，骚扰、勒索和敲诈、破坏民主进程，及扭曲自由社会的发展。利用深伪（deepfake）技术制作的色情内容，近期已被用来压制、羞辱或勒索从政者和记者。95%以上由AI生成的深伪内容，都以女性为目标，如果不加以制止，可能会阻碍世界实现性别平等，带来负面的社会和经济影响。
新加坡的数码化普及，一代比一代更频繁地使用互联网，使我们更易遭受网络危害，进而面对心理健康挑战。
付出代价的不仅是受害者本身。随着欺诈和骗局越来越普遍，经济成本也在不断增加。例如，公司也许要开始为高管可能被假照片勒索购买保险。
网络危害可能是新加坡乃至世界接下来要面对的一大危害。
有何对策？
网络的匿名性质、浏览速度，及互联网涉及多国司法管辖权，让应对网络危害问题极为棘手。
你不能阻止一个你无法识别的涉事者。法律程序尽管有效，却耗时和花钱，也对一个只想尽快删除所有损害自己的贴文的受害者于事无补。此外，只要设置虚拟专用网络（VPN），任何人都可轻易“翻墙”浏览遭封锁的网站。
各国政府已着手制定相关法规，以应对网络危害。
自2015年起，澳大利亚政府授权网安专员指示网络平台删除违法内容。贴文通常需要数小时甚至数天才能被删除，但与负责任的网络平台合作后，只需12分钟就能删除。更重要的是，执法只是网络安全专员办事处的一小部分工作，他们大部分时候都在展开公众宣导和教育工作者培训、全面审视新兴网络危害，及与相关的监管机构和科技平台等，建立合作伙伴关系。
欧盟最近也通过《数码服务法》，要求网络平台采取措施，防止和删除含违法商品、服务或内容的贴文，及提高演算法透明度。根据《数码服务法》，网络平台如果意识到有违法内容，却没有迅速采取行动删除或禁止公众浏览，就须承担相应的法律责任。重要的是，网络平台也必须建立方便的机制，以接获违法内容的通知。
此外，法国、爱尔兰、德国和英国对特定类别的网络危害制定了网络安全法。新加坡最近也修订了《广播法》和订立《网络犯罪危害法》。
网上活动跨越国界，单靠司法机制不足以有效应对网络危害的，必须多管齐下，才能打造更安全的网络空间。
首先，网络空间具有独特的传播特性，监管机构必须拥有相应的权力。根据SHE调查，大多数受访者认为，迅速删除违法贴文，是刻不容缓的对策，因此任何执法方案都必须能够提供这层保障，尤其当涉及孩童等弱势群体受害时更为重要。新法规必须能够应对尚未出现的网络危害，及以公开透明、协同一致的方式实施，与所有相关群体建立互信。例如，要求内容创作者在使用AI制作的内容加上水印认证。此外，各国在法律范畴和执法合作方面若能达成协议，应对网络危害的效力将更强大。
网络平台角色应更明确
其次，网络平台发挥着最重要的作用。尽管这些平台不是内容创作者，但它们是内容把关者。它们也应提供和推出商业与科技方案，确保网络更安全。我们可以借鉴欧盟《数码服务法》的规定，考虑网络平台若发现网络危害却没有采取行动，是否应承担责任。
第三，新法规必须能够有效打击网络匿名者或不受司法管辖的群体。
最后，提高公众意识。SHE调查中一个令人担忧的发现是，两成的受访者认为，网络危害是“稀松平常的事”。我们不应把网络危害视为不可避免的现象，而应积极采取行动，提高自我意识，及教导年幼、年长和不谙科技的人如何更好地保护自己。我们也必须对个人信息的共享保持警惕，包括选择使用负责任的网络平台。许多人可能会感到惊讶的是，在新加坡盛行的通讯应用Telegram的所有者和管理者，连政府官方也无法联系到他们，而他们对有害的内容也不承担任何责任。令人震惊的是，教育工作者竟然通过这个通讯应用，与学生和家长沟通。
人们往往指责网络监管会扼杀言论自由和民主。但SHE调查显示，为了避免继续遭受网络骚扰，66%的受访者会在网上自我审查，而68%干脆不参与网上活动。但透明的网络监管其实可促进个人在网上自由活动，建立更坚强的社会。
目前，我们尚未找到完美的对策，但我们绝对不能置之不理。
作者是义正律师事务所联合管理合伙人
新加坡妇女发展与支援组织创办人
译文由作者提供
