人工智能生成的虚假内容可能引发一场虚拟的军备竞赛

 
关于AI在制作在线内容中的作用，数字营销公司Fractl的副总裁Kristin Tynski看到了提高创造力的机会。但是最近一次关于AI生成内容的实验让她有些震惊。 Tynski使用公开可用的AI工具并花费了大约一个小时的时间，创建了一个网站，其中包含30条高度修饰的博客文章，以及AI生成的头像(不存在这些帖子的作者)。该网站的别名为ThisMarketingBlogDoesNotExist.com。
尽管目的是围绕网站的含义进行对话，但这次演习使Tynski瞥见了一个可能更黑暗的数字未来，在这个未来中不可能将现实与小说区分开。
这样的情况有可能推翻创造者，搜索引擎和用户之间已经不稳定的力量平衡。当前的虚假新闻和宣传流已经骗了太多人，即使数字平台努力将其全部清除。 AI进一步实现内容创建自动化的能力可能使从记者到品牌的每个人都无法与不再信任搜索引擎结果的受众建立联系，并且必须假设他们在网上看到的大部分内容都是假的。
更令人不安的是，利用这些工具进行发动大批宣传的能力可能会使当今的信息战显得原始，从而进一步侵蚀政府与公民之间的公民纽带。
她说：“令我震惊的是这个由AI生成的高质量文本内容的新时代，它可能会污染搜索引擎的结果并给互联网造成大量垃圾堵塞，” “ Google可能很难确定[内容]是否是大量生成的。即使Google可以做到，将其纳入搜索的时间和资源也将是困难的。”
人工智能与艺术家
随着算法被用于创作音乐，歌曲歌词和短篇小说，人工智能和创造力之间的交集正在迅速扩展。这个领域之所以引起人们的关注，是因为我们希望相信情感和创造力是定义我们人类各个方面的主要动力。使用机器复制这些品质是一个引人入胜的技术挑战，这使我们更趋近于弥合人机鸿沟，同时又将某些鸿沟带入了现实的泥潭。
今年早些时候，OpenAI项目宣布开发出了功能强大的语言软件，几乎可以匹敌人类在生成文本方面的能力，从而步入了这个战场。担心会释放大量假内容，OpenAI表示不会发布该工具，因为它会被滥用。
这只是争相创建等效产品的其他开发人员的猫腻。其中包括布朗大学的两名硕士生Aaron Gokaslan和Vanya Cohen。两人说，即使他们不具备特别强的技术技能，他们也设法创建了类似的工具。当然，这就是他们的观点：几乎任何人现在都可以创建令人信服的AI驱动的内容生成工具。
Gokaslan和Cohen反对OpenAI决定不发布其工具的决定，因为他们认为使用该技术为构建防御措施提供了最大希望。因此，他们发表了自己的作品以示抗议。
他们写道：“由于我们的复制工作不是唯一的，并且大型语言模型是当前对抗生成的文本的最有效手段，因此我们认为发布模型是应对此类模型未来潜在滥用的合理的第一步。”
该公开哲学由艾伦人工智能研究所和华盛顿大学共享，后者共同创建了Grover，该工具用于检测AI生成的虚假新闻。他们在线上发布了该工具，使人们可以对其进行试验，并查看仅需几个参数即可生成整篇文章是多么容易。
Grover是Tynski在实验中使用的工具。
现实还是幻想?
Fractl自称为有机搜索，内容营销和数字公关策略的一站式商店。为此，Tynski表示，该公司此前曾尝试使用AI工具来帮助完成诸如数据分析和一些有限的AI内容创建之类的任务，这些内容构成了人类创建内容的基础。
她说：“我们对AI如何支持高质量内容(解析数据然后帮助我们讲述有关数据的故事)的意义感到非常兴奋。” “您可以看到在哪里可以使用AI生成的文本来补充创作过程。为了能够在遇到困难时将其用作起点，这可能对广告素材来说是一个巨大的福音。”
然后她停顿了一下，然后补充说：“就像这些技术中的任何一种一样，它们对于邪恶目的也有影响。”
SEO和内容营销行业近年来变得越来越复杂。当社交媒体平台上的僵尸程序和海外点击农场轰炸互联网时，创建真正可信的内容将变得更加困难，那里的低薪工人会花几分钱。更不用说视频“深造假”的兴起了。但是，正如Tynski先前所写的那样，谈到AI时，“我们的行业尚未面临最大的挑战。”
为了探索这些危险，Fractl写下了30个标题，并将它们放置在Grover中。眨眼间，它吐出了非常流利的文章：“为什么真正的内容营销现在比以往任何时候都重要”和“哪种照片滤镜最适合Instagram营销?”，后者的部分阅读内容是：
Instagram故事首先使人们的Instagram订阅源更加时尚，更加丰富多彩，并且总体上更加有趣。他们可以将艺术照发布在他人故事的背景中，并在这样做时秘密地使某人嫉妒和/或取消关注您。
该发布后功能仍然可以制作一些非常可爱的故事，尤其是当您使用自己喜欢的过滤器显示自己的迷人照片时。这就是为什么以技术为重点的出版物Mobile Syrup要求一群Insta艺术家的喜爱的原因。 (您可以查看其最佳Instagram故事的完整列表。)
不是莎士比亚。但是，如果您在搜索后偶然发现了这一点，您是否真的知道它不是由人类写的?
Tynski说：“它确实很好地发挥了这种作用。” “结果对刚刚浏览的人来说是可以通过的。它设置文章，组成影响者，组成过滤器名称。它的层次很多，使它印象深刻。”
这些故事均归因于小说作家巴里·泰瑞(Barry Tyree)。巴里不仅不是真实的，他的照片也不是真实的。该图像是使用称为StyleGAN的工具生成的。该技术是由Uber软件工程师Philip Wang开发的，该技术基于Nvidia的工作，该工作确实使用一种算法对人的图像进行生成，该算法是根据大量照片数据集进行训练的。任何人都可以在ThisPersonDoesNotExist.com上使用它。
这种组合的强大之处在于，这些工具几乎可以触及任何人。支持者认为，这种进步进一步使内容创作民主化。但是，如果过去是序幕，那么任何潜在的好处都可能变成了更黑暗的目的。
“想像一下您想写10,000篇有关唐纳德·特朗普的文章，并向他们注入您想要的任何情感?”廷斯基说。 “同时令人恐惧和兴奋。”
言归正传，Tynski担心这对她的公司及其行业意味着什么。随着Fractl努力与Google搜索变化，新的优化策略以及不断发展的社交媒体工具保持同步，帮助公司和客户进行市场营销并与客户建立联系的能力已经类似于低级战争。借助搜索和社交驱动力进行的大量发现，如果用户不再觉得自己可以信任任何一个，会发生什么?
在更广泛的层面上，Tynski意识到AI生成的内容有可能在我们已经磨损的社交结构中进一步撕裂。 YouTube，Facebook和Twitter等公司似乎已经在进行一场徒劳的战斗，以阻止假新闻和宣传浪潮。他们正在努力地使用自己的AI和人类团队，但是坏家伙在分散注意力，分散信息和分散竞争的过程中仍然处于领先地位。
为了使这一切有意义，一件事是确定的。我们将需要越来越多的更好的工具，以帮助我们从假冒的伪造者和更多的人看门人中确定真实情况，以筛选不断上升的内容浪潮。