艾玛麦高恩 2024年1月30日

在AI生成的泰勒斯威夫特色情图片于X平台前身为Twitter迅速走红之后，我们不禁要问：这对AI的未来意味著什么？

最近，AI生成的著名歌手泰勒斯威夫特的露骨图像在X平台上大量出现，揭示了AI技术更黑暗的一面。这些图片被认为是使用Microsoft Designer创建的，迅速引起广泛关注，并突显出AI生成假色情内容日益严重的挑战。

随著这些图片在平台上的快速扩散，此事件不仅引发了粉丝和隐私倡导者的愤怒，还提出了有关在媒体创作中伦理使用AI的重大问题。

Avast威胁情报总监米哈尔萨拉特Michal Salt在这场重要讨论中提供了宝贵的见解和专业知识。萨拉特密切关注技术、安全与伦理交集，对AI生成内容的影响提出了深刻的见解。

在接下来的几个部分中，我们将深入探讨他的见解，探索图像操控的历史平行、AI技术所带来的伦理困境，以及在我们日益受到AI驱动的世界中，数字信任与安全的更广泛影响。

假色情内容并非新问题

萨拉特指出，目前AI生成逼真图像的能力与过去使用Photoshop的情况形成了对比。就像多年前Photoshop彻底改变了图像处理一样，AI如今也使创建现实图像变得更为简单。然而，操控图像的概念并不新鲜；AI只不过是这场持续剧变中的最新工具。

“在某种程度上，这只是一种不同的照片编辑软件，”他解释说，强调操控图像的问题已经存在了十多年。现在的关键差异在于，AI技术带来了更大的便利性和可及性。这一转变引发了关于社会如何适应和监管这些新工具的重要问题，这些工具使得创建现实图像变得比以往任何时候都容易。

AI与露骨内容的伦理困境

目前最迫切的问题之一，是使用AI生成露骨图片的伦理含义，尤其是针对特定个体而未经其同意的情况。虽然生成一般的裸体图片可能不会引发太多伦理问题，但当涉及到轻松创建识别性人员的露骨图片时，问题就会浮现。

“AI生成的色情内容本身或许并没有任何固有的错误或伦理问题，”萨拉特说。“但对我来说，伦理问题在于，用已知或特定人脸生成图片变得相对容易。”

这种能力不仅限于如泰勒斯威夫特等名人，还可能扩展到任何人，这突显了建立伦理指导和立法的必要性：虽然所谓的“报复色情”(或非自愿分享裸体照片)在48个州是违法的，但AI生成的深伪色情目前仅在10个州被禁止，这一差异突显了立法需要跟上技术的步伐。

AI公司如何防止深伪色情的生成？

或许由于生成性AI的可及性相对较新，对于在未经当事人同意的情况下创建露骨内容的规范尚不多。然而，萨拉特认为，对于AI公司来说，建立这些防护措施并不会非常困难：例如，不允许对特定人进行图片生成，或禁止使用客户提交的图片作为素材，将为绝大多数人提供足够的障碍。

“当然，某些人仍然会能够突破这些限制，迫使模型做一些不该做的事情，”萨拉特说。“我认为，就目前而言，几乎不可能完全避免这种情况你只能让其变得更加困难。我试图表达的观点是，提供这些服务的公司应该更加努力去避免这种情况。”

也存在某人创建自己的无限制色情生成模型的可能性。不过，萨拉特指出，虽然这是可能的，但需要大量的技术知识和大量的计算能力才能做到。

“能够自己创建生成裸体图像的AI的人并不多，”萨拉特说。“因此，这更像是使用Photoshop，你需要具备一定的技能才能做到。”

萨拉特将当前的AI发展状况与安全行业的演变相提并论。他观察到我们正在见证安全行业“重新开始使用AI”。这一比较突显了将AI发展视为一个持续过程的重要性，在这一过程中，识别和修复漏洞是技术成熟的关键。

泰勒斯威夫特在X上的AI生成图片强调了负责任地使用AI的重要性。随著AI的持续发展，平衡技术能力与伦理考量和安全措施将至关重要。通过向米哈尔萨拉特等专家学习，并反思过去的挑战，我们可以以更为明智和谨慎的方式驻足于这个复杂的景观。