由人工智能(ai)生成的深度色情假图像，以及在未经用户同意的情况下对其进行性侵犯，这一祸患打击了最著名的受害者、歌手泰勒?斯威夫特(Taylor Swift)，让人们注意到一个科技平台和反滥用组织一直难以解决的问题。
本周，斯威夫特的色情和辱骂假照片开始在社交媒体平台X上广泛传播。
她的狂热粉丝迅速动员起来，在以前的推特平台上发起了反击，并在推特上添加了#保护泰勒·斯威夫特的标签，上传了这位流行歌手的更多正面形象。一些人表示，他们正在举报分享深度造假的账户。
白宫周五表示，对这位流行歌手的网上虚假照片感到震惊，并表示社交媒体公司在执行自己的规则以防止此类错误信息的传播方面发挥着重要作用。
“这非常令人担忧。因此，我们将尽我们所能来处理这个问题，”白宫新闻秘书让-皮埃尔在新闻发布会上说。她还说，国会应该在这个问题上采取立法行动。
深度造假检测组织“现实卫士”(Reality Defender)表示，它追踪到了大量描绘斯威夫特的未经同意的色情材料，尤其是在x上。一些图片还进入了元所有的Facebook和其他社交媒体平台。
“不幸的是，当其中一些被删除时，它们已经传播到了数以百万计的用户，”Reality Defender的增长主管梅森·艾伦(Mason Allen)说。
研究人员发现了至少几十张独特的人工智能生成的图像。分享最多的是与足球有关的，展示了一个被涂上颜料或浑身是血的斯威夫特，把她物化了，在某些情况下，对她虚伪的形象造成了暴力伤害。
研究人员表示，在过去几年中，随着用于生成此类图像的技术变得更容易获取和使用，明显的深度伪造的数量有所增加。2019年，人工智能公司DeepTrace Labs发布的一份报告显示，这些图像绝大多数被用来对付女性。报道称，大多数受害者是好莱坞演员和韩国流行歌手。
当被要求对霉霉的假照片发表评论时，X让美联社查阅了其安全账户上的一篇帖子，称该公司严格禁止在其平台上分享未经同意的裸照。
“我们的团队正在积极删除所有被识别出的图片，并对负责发布这些图片的账户采取适当行动，”该公司在周五凌晨的帖子中写道。
“我们正在密切关注这一情况，以确保任何进一步的违规行为立即得到解决，并删除相关内容。”
与此同时，meta在一份声明中表示，它强烈谴责“出现在不同互联网服务上的内容”，并已努力将其删除。
该公司表示:“我们将继续监控平台上的违规内容，并将在必要时采取适当行动。”
周五，斯威夫特的代表没有立即回应置评请求。
艾伦说，研究人员有90%的信心这些图像是由扩散模型创建的，这是一种生成式人工智能模型，可以根据书面提示生成新的逼真的图像。最广为人知的是Stable Diffusion, Midjourney和OpenAI的DALL-E。艾伦的研究小组没有试图确定其来源。
接受路透
