Emma McGowan 2024年1月30日
在AI生成的泰勒斯威夫特色情图片在社交平台X上迅速走红后,我们不禁要问:这对未来的AI意味著什么?
最近,一起不安的事件让人心生警惕,AI生成的泰勒斯威夫特的色情图片在X前身为Twitter上大量流传,突显了AI技术的阴暗面。这些图片被认为是使用Microsoft Designer创建的,引起了广泛关注,也凸显了AI生成假色情内容日益严峻的挑战。
随著这些图片在平台上迅速传播,事件不仅激起了粉丝和隐私倡导者的愤怒,还引发了人们对媒体创作中AI伦理使用的关键问题的思考。
飞鱼加速npv官网下载Avast威胁情报总监Michal Salt对这一时事话题提供了丰富的知识和专业见解。他以科技、安全和伦理的交集为切入点,对AI生成内容的影响提供了深入的视角。
在接下来的部分中,我们将深入探讨他的见解,回顾图片操控的历史平行,AI能力所带来的伦理困境,以及在这个日益依赖AI的世界中数位信任和安全的更广泛影响。
假色情并非新问题
Salt指出当前AI在生成逼真图片方面的能力与过去使用Photoshop的情况有许多相似之处。正如Photoshop曾经彻底改变图片编辑技术,现在的AI则大大简化了创建现实图片的过程。然而,操控图片的概念并不新颖,AI只是这个持续故事中的最新工具。
“在某种程度上,这只是另一种照片编辑软体,”他解释道,强调操控图片的问题已经关注了十多年。现在的关键区别在于AI技术带来的便利性和可及性。这一变化引发了关于社会如何适应和监管这些新的工具的重大问题,这些工具让创建现实图片变得比以往任何时候都更容易。
AI与露骨内容的伦理困境
最迫切的担忧之一是使用AI生成露骨图片的道德影响,特别是针对特定个体而没有他们的同意。尽管生成一般的裸体图片可能不会引发太多伦理问题,但真正的问题在于生成可识别人的露骨图片的容易性。
“生成AI色情作品本身大概没有什么根本性的错误或伦理问题,”Salt说。“但我的伦理问题在于,你可以相对轻松地生成带有已知或特定面孔的图片。”
这一能力超越了像泰勒斯威夫特这样的名人,可能影响到任何人,凸显了制定伦理准则和法律的必要性:虽然所谓的“报复色情”或非自愿分享裸体照片在48个州都是非法的,但AI生成的深伪色情目前在只有10个州被禁止。这一鲜明的差异凸显了法律需要跟上技术的步伐。
AI公司如何防止深伪色情的产生?
也许是因为生成式AI的普及还相对较新,关于在未经主体同意的情况下创建露骨内容的规范相对较少。然而,Salt认为,对AI公司来说,落实这些规范并不会太困难:禁止生成特定人像或使用用户提交的图片作为素材,将为绝大多数用户提供足够的屏障。
“当然,有些人将能够绕过这些限制,强迫模型做出不应做的事,”Salt说。“在我看来,现在几乎不可能完全避免这种情况你只能让它变得更困难。我想要表达的观点是,提供这些服务的公司应该更努力去防止这种情况。”
还存在著某人创建自己无限制的色情生成模型的可能性。然而,Salt指出,尽管这是可能的,却需要大量的技术知识和大量的计算能力来实现。
“并不是很多人能够自己创建AI来生成裸体图片,”Salt说。“因此,这更像是使用Photoshop,使用者需要具备一定的技能才能做到这一点。”
Salt将当前AI发展的状态与安全行业的演变进行了比较。他观察到,我们正看到安全行业“从新开始AI”。这一比较凸显了将AI发展视为一个不断进行的过程的重要性,其中识别和修复漏洞是技术成熟的关键。
在X上出现的泰勒斯威夫特的AI生成图片强调了负责任地使用AI的重要性。随著AI的不断进步,在科技能力与伦理考量和安全措施之间保持平衡将至关重要。通过向像Michal Salt这样的专家学习,并反思过去的挑战,我们可以更全面和谨慎地应对这一复杂领域。
最新 WhatsApp 诈骗:如何保持安全
WhatsApp诈骗附图:如何保护自己免受最新威胁隐私新闻19分钟2023年10月11日 撰写者 Sonja Raath 审阅者 Brian Schirmacher 最后更新于2024年2月6日 审阅...
这是网络安全意识月。以下是一些在线安全的小贴士:IPVanish
十月是网络安全意识月,它是政府和私营部门之间的国际合作,旨在使个人和企业具备保护其个人数据免受网络犯罪的知识。自2004年以来,这一倡议一直致力于教育人们有关网络安全的信息,以及每个人在数字世界中保持...