INS 排名第一的网红餐厅却被证实全部由 AI 生成

作者 | Xin Ling 

编辑 | 郑玄

最近，一个名为 Ethos 的餐厅在 Instagram 上走红。这家餐厅在其网页上展示得非常豪华：美味佳肴，顶级用餐环境，还有明星大腕为您调酒。凭借这些展示，Ethos 吸引了成千上万名网友的点赞和关注，在 Instagram 上吸引了 7.2 万名粉丝，成为奥斯汀排名第一的餐厅。

然而，硅谷风险投资公司 Andreessen Horowitz 的合伙人贾斯汀・摩尔（Justine Moore）指出：这家“餐厅”根本不存在，Ethos 在 Instagram 上发布的食客自拍、评论、厨师介绍以及餐厅信息全都是由 AI 生成的。

虽然目前尚不清楚这场闹剧的始作俑者是谁，也无法确定其背后的动机是社会实验、恶作剧，还是带有更多的经济、利益目的。但这一事件向公众敲响了警钟：从 DeepFake 色情门，到明星 AI 换脸，雷军骂人事件，以及最近美国大选期间出现频繁的AI生成假图片、假新闻……

在生成式 AI 迅速发展的当下，AI 造假正以各种无法预测的形式占领社交媒体。与过去的移花接木式假新闻相比，AI 生成的内容更加逼真，让普通人更难以分辨，同时造假的成本和门槛也更低。要维护社交平台的真实性，需要社交平台做更多的工作。

01、虚构的餐厅

Ethos 是 Instagram 上一家餐厅的账号。进入账号，里面的食物创意十足，令人垂涎欲滴。芝士蛋糕上撒满流淌的蜂蜜，洋葱圈上印着中土世界的至尊魔戒，各式奇妙造型的美食，如用奶酪片和生菜做成的抹胸裙，草莓做的糖果小屋，恐龙形态的“牛角包”。

账号里不仅有精致而富有巧思的食物，用餐环境也十分神奇。餐厅提供“泡澡寿司”服务，食客可以边泡澡边吃漂浮的寿司，与厨师一起在巨大浴缸里亲手制作每一件寿司。评论区底下还有关于此的“真实”评论：“上周我们不得不缩短 omakase 时间，因为有人在寿司热水浴缸里搞脏了自己。管理人员很通情达理，还免费送了我们一杯香槟。”

这家神奇餐厅的人脉也不简单。有一篇帖子介绍亚马逊首席执行官杰夫・贝索斯在酒吧调酒的服务。据介绍称，由于餐厅厨师和贝索斯是朋友，所以到该餐厅的客人将有机会品尝到贝索斯亲自调制的鸡尾酒。

凭借着别具匠心的美食和服务，Ethos 在 Ins 上逐渐积累了 7.2w 粉丝的关注，用户的留言与反馈，让其成为奥斯汀排名第一的餐厅。

正当网友对这家餐厅的独特之处感到惊叹时，硅谷风险投资公司 Andreessen Horowitz 的合伙人贾斯汀・摩尔看破了真相，在社交媒体上公布了她的发现：这家名为 Ethos 的餐厅自称是位于德克萨斯州奥斯汀的高级餐厅，餐厅的社交媒体账户拥有数万名关注者，并带有蓝色认证标记。然而，事实上，这家餐厅压根就不存在，网站上所有信息都是由人工智能生成的。目前尚不清楚谁在经营 Ethos 账户。

在为餐厅美化图片、刷好评的相关平台上，这样的情况并不罕见。在生成式 AI 技术开始流行之前，商家只需雇佣水军刷评论或回复好评就可以实现目的。而现在随着技术的发展，不仅图片处理、评论刷写得更为细致，甚至创造一家餐厅也能直接通过AI实现。

生成式 AI 作为一项技术，并没有对错之分。适当使用可以帮助我们更好地创作，带来乐趣；但若滥用，将导致人们的创造能力退化，甚至造成不良社会影响。

02、技术滥用，平台应负责

AI 技术的进步使我们生活进入“生成”时代。视频生成的领头羊 Runway 的CEO Cristóbal Valenzuela 在最近的一封公开信中指出：“就像相机改变了我们捕捉现实的方式，AI 也正在改变我们创造现实的方式。”

Cristóbal Valenzuela 从AI创作的角度进行了阐述，对未来的内容和媒体进行了美好的设想：“模拟世界，让内容可以实时自我塑造，消除创作和分发之间的界限。这不仅是构建全新媒体景观的基础，还将从根本上重新定义媒体：既是互动的、生成性的、个性化的，同时也是共享和普遍的。”

需要澄清一点的是，Cristóbal Valenzuela 所表达的含义是，生成式AI的使用有助于人们更好地创作，而非代替创作本身。

例如，Runway 一直在推动AI创意生成的边界，推出的 Gen-3 Alpha，可以根据简单的提示词生成高质量视频。这使创作者从各种复杂的制作工具中解放出来，大大降低了创作的门槛，真正释放了人们讲述故事的创意能力。

因此，AI替代的是“生成”部分，而不是“创作”部分。若过分依赖AI在创作中使用，会导致创意依赖AI，也会抹杀创作中自然而来的温度和情感。

例如，美团外卖最近推出的“附近在吃”功能，用户可以以图文形式分享自己的外卖订单，帮助其他用户发现优质的商品和商家。发布过程中，“附近在吃”提供了“AI帮你写”的功能，让用户可以使用AI技术一键生成文案。这看似降低了用户的创作门槛，但在实际体验中，使创作过程变得毫无存在感，内容的社交真实感也因此大幅减弱。

因此，平台需要在适当的时机帮助人们使用AI技术的能力，而不是粗暴地让AI帮助进行伪造。

另外，对于那些出于某种目的，在平台上传播AI伪造内容的行为，平台也需要对此进行鉴别清除。本文提到的这家虚构的餐厅只是冰山一角。在今年的美国大选期间，Facebook平台上传播的虚假图片引起了更为恶劣的影响。

在刚结束的美国大选中，Facebook、Instagram等社交媒体作为党派表态、吸引选民的重要平台，成为AI生成图片泛滥的地方。极客公园最新发布的文章“比飓风更可怕的，是一张AI生成图片”指出，在碎片化的社交媒体平台上，政客们凭借AI生成的图片来宣传政见，抨击对手。感性的印象取代了客观事实，在AI时代，“造谣一张嘴，辟谣跑断腿”的传播学原理更是更加猛烈。

美国皮尤研究最近开展的一项调查发现，66%的美国人表示，他们“至少有时”会受到篡改或完全虚构内容的影响；63%的人表示，捏造或篡改的图像和视频会导致人们对于时事的“认知混乱”。

在AI生成内容的时代，内容的真实性和可信度受到了严峻挑战。对于这些社交平台来说，用户对平台的信任是其最宝贵的资产。如果平台不能引导用户正确使用，纵容虚假信息的传播，那么当用户对平台失去信任的一天到来时，平台将失去其价值。

03、平台应行动，但仍需努力

实际上，针对日益泛滥的AI内容，像 Meta 这样的平台企业已经开始采取行动。

Meta的最高政策主管曾在今年2月表示，该公司将在未来几个月内开始使用文件中的一套内置标记，检测和标记其他公司的人工智能服务生成的图像。

Meta全球事务总裁Nick Clegg在一篇博客文章中写道，公司将对发布在Facebook、Instagram和Threads服务上的任何带有标记的内容都应用这些标签，向用户展示这些图像—— 在许多情况下类似于真实照片—— 其实是数字创作。

Clegg表示，一旦新系统开始运行，Meta将对OpenAI、微软、Adobe、Midtravel、Shutterstock和Google等服务中创建的图像采取相同的举措。

值得注意的是，这些行动是从今年2月开始的，而这家名为Ethos的餐厅一直到10月才被曝光，在美国大选期间，Facebook上的假图片也未被及时认清。

Meta在最近发布的财报中多次强调，公司本季度社交“应用家族”部分的广告收入增长了19%，其中AI技术的应用功不可没。显然，AI给Meta带来了可观的收入，但Meta在为用户提供清晰的社交环境方面仍有进一步努力的空间。

本文来自微信公众号：微信公众号（ID：null），作者：Xin Ling

广告声明：文内包含的跳转链接，旨在节省甄选时间，结果仅供参考。