他就是他们造就的那样。

　　自《堡垒之夜》的开发商 Epic Games 在游戏中引入其人工智能驱动的达斯·维达角色以来的一周里，这一角色已成为人工智能迅猛发展所带来的令人兴奋与风险并存的象征。

　　该角色依靠对话式人工智能以及已故詹姆斯·厄尔·琼斯（James Earl Jones）的授权声音，他曾在原版《星球大战》三部曲中饰演达斯·维达。玩家可以与达斯·维达互动，他会以自然语言回应。

　　它引入了一种新的沉浸式元素，玩家们表示很喜欢。但它也偏离了正轨，对玩家破口大骂，还招致了致力于保护人类人才的工会的反对。

　　风险

　　Epic Games 总裁亚当·苏斯曼在达斯·维达发布后的声明中表示，此次合作“为玩家与传奇的《星球大战》角色互动提供了一种全新且身临其境的方式。”

　　然而，没过几天，玩家们就找到了操纵人工智能的方法来规避其内容设置。例如，在一位 Twitch 直播主播的热门视频片段中，角色竟然在咒骂。

　　《堡垒之夜》中的达斯·维达角色如此轻易地突破了开发者设定的限制，这只是许多人对人工智能的更大担忧的一个小例子，随着这项技术朝着更高自主性和人类水平的智能飞速发展，这种担忧愈发强烈。

　　长期以来，自主人工智能对人类构成的威胁一直是那些处于开发技术前沿的人（以及科幻迷）所担忧的问题。例如，安全及其对人类的益处是 OpenAI 使命的核心。但随着投资者要求证明其巨额资金投入合理性的压力不断增大，一些工程师和高管担心，人工智能公司优先考虑新产品的发布，而非确保其安全性。

　　在过去一年里，OpenAI 的几位高层官员离职，他们对该公司在安全方面的投入表示担忧。上个月，OpenAI 宣布，如果“另一家前沿人工智能开发商在没有类似保障措施的情况下发布高风险系统”，它将考虑放宽其安全标准。

　　Anthropic 公司首席执行官达里奥·阿莫代伊（Dario Amodei）近日表示，尽管人工智能带来的好处巨大，但风险也同样巨大。

　　阿莫代伊在接受《纽约时报》“硬叉”播客采访时说：“如果你看看我们的负责任扩展政策，无非就是人工智能、自主性和 CBRN——化学、生物、放射性、核能。这关乎人工智能自主性方面的严重滥用，可能会威胁到数百万人的生命。这就是 Anthropic 最担心的问题。”

　　许多工人还担心人工智能是一种生存威胁，而使用琼斯声音的人工智能版本更是加剧了这种恐惧。

　　迪士尼现拥有《星球大战》系列版权，并持有 Epic Games 的大量股份。2022 年，在琼斯遗产管理方的许可下，迪士尼开始开发琼斯声音的 AI 版本。该公司在一份声明中表示，在发布《堡垒之夜》中的达斯·维达角色时，他们“密切咨询”了琼斯的家人。

　　然而，这一决定引起了代表演员和其他演艺人员的美国演员工会 - 美国电视和广播艺人联合会（SAG-AFTRA）的关注。该工会已向国家劳资关系委员会投诉称，Epic Games 在使用琼斯的声音之前并未与工会进行协商或谈判。

　　该工会在一份声明中表示：“我们庆祝我们的会员及其遗产有权控制其数字复制品的使用，并欢迎利用新技术让新一代能够分享这些遗产和著名角色所带来的乐趣。然而，我们必须保护我们围绕使用声音进行谈判的条款和条件的权利，这些声音取代了我们会员的工作，包括那些之前在电子游戏中模仿达斯·维达标志性节奏和音调的人的工作。”

　　美国演员工会 - 音视艺员工联合会（SAG-AFTRA）与美国编剧工会（Writers Guild of America）于 2023 年联合罢工 148 天，部分原因是为了迫使电影制片厂就人工智能在媒体中的使用条款进行谈判。

　　潜在的

　　尽管存在这些风险，但几乎没有什么能阻挡人工智能的发展。而且到目前为止，玩家们对《堡垒之夜》中由人工智能驱动的达斯·维达的评价都很积极。

　　拥有超过 800 万订阅者的《堡垒之夜》YouTube 网红尼古拉斯·阿米奥尼在一段视频中表示，他“从未在游戏中的一个地方见过这么多人”。

　　艾米奥尼称，Epic Games 似乎向达斯·维达透露了很多有关游戏内玩家的信息。甚至包括他可购买的“皮肤”。

　　“达斯·维达掌握着那些情报，对我也了解很多。”他说。

　　尽管这个角色出现了一些小问题，但这个机器人是早期的一个范例，展示了未来可能实现的种种。生成式人工智能为游戏玩家开启了一个全新的沉浸式体验世界，在这个世界里，角色能够以自然语言与玩家互动。

　　一些热门游戏系列，比如《使命召唤》，正在尝试利用人工智能来开发游戏。其他工作室则在研发能够测量玩家情绪的技术，并将这种情绪传递给非玩家角色，然后这些角色利用人工智能做出回应。

　　“从生成能回应玩家情绪的实时对话，到动态改变游戏环境或创建定制资产，我们将情感计算与生成式人工智能相融合，以前所未有的方式让游戏栩栩如生。”致力于开发视频游戏人工智能的 GenAI 公司 Ovomind 在一篇博客文章中这样说道。

　　至于迪士尼和 Epic Games，人工智能驱动的《堡垒之夜》中的达斯·维达只是未来游戏领域重大进步的开端，而这一切都源于人工智能。

　　迪士尼、卢卡斯影业和 Epic Games 深感荣幸能将他的声音带入《堡垒之夜》，让数百万玩家得以体验——这展示了我们如何负责任地拥抱新兴技术，拓展叙事方式，同时将人置于创意过程的核心，迪士尼游戏与数字娱乐执行副总裁肖恩·肖普塔（Sean Shoptaw）在一份声明中表示。