Twitch 主播 Atrioc 在被发现观看深度伪造色情材料后的道歉视频中。
汇编: 龙子 ✍️
深度伪造 Deepfake 色情丑闻震惊了流媒体社区。 澳大利亚法律是否解决了这个问题?
一项研究发现,96% 的深度伪造 Deepfake 视频都是色情的。
人工智能深度伪造 AI Deepfakes 是奇特的,通常是不切实际的模拟。 该技术可用于操纵政客传播虚假信息的图像。 它可以 – 并且已经 – 将演员斯嘉丽约翰逊等名人的照片制作成露骨的色情视频。 但如果不是斯嘉丽约翰逊呢? 如果是你呢?
追踪深度换脸视频的研究公司 Sensity AI 在 2019 年的一项研究中发现,其中 96% 是色情内容。
上周,当美国流行的 Twitch 主播 Brandon “Atrioc” Ewing 在观看 AI 生成的几位女性主播的资料时,Deepfake 色情内容的话题又回到了公众话题。
Atrioc 和他情绪化的妻子一起发布了一段含泪的道歉视频,因为他承认购买了两个以前认为他是朋友的主播的视频。
之后,流行的 Twitch 流媒体 QTCinderella 发现她也被 AI 篡改了,并且假材料正在网站上出售。 这位 28 岁的真名布莱尔的回应显然让她心烦意乱。
QTCinderella 在得知有人用她制作深度伪造的色情片后,开始直播分享她的痛苦。
“这就是被侵犯的感觉。 这就是被利用的感觉,这就是看到自己赤身裸体违背自己的意愿被传播到整个互联网的感觉。 这就是它的样子,”她在直播中说。
“去他妈的互联网。XXX 对女性的不断剥削和物化,这令人筋疲力尽,令人筋疲力尽。 XXX 把它展示给成千上万的人,真是太糟糕了。
“XXX 那些从那个网站给我发我自己照片的人……这就是它的样子,这就是痛苦的样子。
“如果你能够看到那些不推销自己或从中受益的女性……如果你能够看到那你就是问题所在。你将女性视为一个对象。”
该事件的另一名受害者 Pokimane 拥有超过 700 万粉丝,他在一条推文中呼吁他们“停止在未经他们同意的情况下对他们进行性化。就是这样,就是这样的推文。”
受欢迎的女性游戏玩家 Pokimane 要求观众停止对她进行性感化。
但即使在事件发生后,评论中的许多人也没有看到 Atrioc 观看真人未经同意的假色情内容有什么问题。
“我有点为他感到难过”,“很公平,你必须做你必须做的事”和“网站是什么?找朋友”,这些只是支持 Atrioc 的众多评论中的一部分。
领导澳大利亚“教导我们同意”运动的同意活动家 Chanel Contos 表示,这一事件和观众的一些反应“令人深感不安”,该活动导致了新的全国同意课程。
“虽然我们确实需要关于这方面的强有力的规则、法规和法律,但真正防止人们利用基于图像的滥用行为的唯一方法是确保我们将同意的概念植入人们的心中,尤其是将成为年轻人的年轻一代。更倾向于使用这种人工智能技术,”康托斯女士告诉 饲料。
“AI 技术确实让它变得如此逼真,它确实让它变得有点违和。动态图片可能比经过清晰 Photoshop 处理的静止图像更加刺耳。
什么是深度假货?
Deepfake(这个词是深度学习和伪造的组合)媒体将图像或视频叠加在现有图像上。 它使用机器学习和人工智能来操纵视觉甚至音频,这可以让它看起来甚至听起来像其他人。
警告:以下推文包含粗俗语言
虽然 Deepfakes 可以增强娱乐或游戏产业,但它们也因其可能制作儿童性虐待材料、名人色情视频、复仇色情、假新闻、金融欺诈以及未经同意的人的假色情材料而引起关注。
去年 3 月,乌克兰总统沃洛德米尔·泽伦斯基 (Volodymyr Zelenskyy) 的深度造假在社交媒体上流传,并在被揭穿和删除之前被黑客植入乌克兰新闻网站。
这段被篡改的视频似乎是在告诉乌克兰军队放下武器,投降与俄罗斯的战斗。 许多人认为该视频是俄罗斯信息战的一部分。
上周,在接受福布斯杂志的广泛采访时,OpenAI 公司的老板,推出 ChatGPT 聊天机器人,说他“非常担心”人工智能生成的报复色情片。
在声明中 饲料eSafety 专员 Julie Inman Grant 说:“最近我们开始看到 deepfake 技术被用来制造假新闻、虚假色情视频和恶意恶作剧,主要针对政客和名人等知名人士。
“随着这项技术变得更容易获得,我们预计普通澳大利亚公民也会受到影响。
“发布裸体或性深度伪造将是一种基于图像的滥用形式,即在未经他人同意的情况下在网上分享某人的私密图像。”
基于图像的滥用违反了《2021 年在线安全法》,该法由 eSafety 管理。 根据该法案,肇事者将被处以罚款,但其他司法管辖区的法律可能会判处监禁。
任何澳大利亚人的图像或视频被更改为显得私密并未经同意在网上发布,都可以联系 eSafety 寻求帮助将其删除。
三个维度的骚扰和虐待,元宇宙的阴暗面
英曼女士在声明中补充说:“帮助识别、检测和确认深度造假的创新正在取得进展,科技公司有责任将这些融入到他们的平台和服务中。”
Gilbert + Tobin 律师事务所的技术合伙人 Andrew Hii 表示,联邦法律保护澳大利亚人免受此类虐待,但围绕监管的猜测仍然存在。
“我认为存在一个问题,即监管机构是否在执行这些法律方面做得足够好,并让那些认为自己是这些事情的受害者的人能够很容易地采取行动阻止这种情况发生。”