文/一碗葫芦
随着AI在生成图片和文字方面的技术日渐成熟，不少人开始另辟蹊径，探索起了 “AI声音”的可能性。
前段时间，B站上的“AI孙燕姿”似乎已经超过了本人，成为了新的互联网顶流。
令人感到惊讶的是，AI生成的音色竟然真的和孙燕姿本人的声音差不多，如果不仔细听根本听不出和本人的区别。
但就和AI图片、文字所经历的一样，AI声音也在缺乏监管的情况下开始走向了歪门邪道。
最近，一位Twitter用户Robbie92发布了一篇帖子，控诉起了《上古卷轴5》的Mod社区正在使用AI配音来创建和传播未经本人允许的色情内容。
众所周知，《上古卷轴5》打没打Mod完全是两个游戏。所以，老滚5的Mod社区也可以说是比游戏还要重要的一个存在。
打了Mod的老滚5
其中，Nexus Mods是老滚5最大的Mod社区。
毕竟这个网站始于《上古卷轴3》的Mod创建与分享，而如今已发展成为不止是上古卷轴系列的众多游戏的重要Mod来源。
网站中有着6w+的老滚5Mod。
今年4月，Nexus Mods发布了一篇公告，宣布“AI生成的Mod并不违反我们的规则”，公开欢迎Mod制作者利用AI工具制作Mod。
Nexus表示AI生成的Mods并不违反网站规则
或许正是因为这个原因，Mod社区中的AI创作也变得更加普遍，像是用AI改善NPC行为方式等的Mod也有不少。
老滚5的AI对话Mod
老实说，把AI技术加进游戏里，其实能够很大程度上改变玩家的游戏体验。毕竟当NPC有了“自我意识”，会根据玩家的举动做出反应，也会让玩家得到更加沉浸的体验。
但是一旦有制作者开始利用AI工具做些“不正当的事情”，事情就开始变得没那么简单了。
据twitter用户Robbie所说，在老滚5的Mod社区中，不少系列的配音演员都在不知情的情况下被Mod制作者利用在了色情内容中。
Mod制作者将这些配音演员的声音输入到一个叫做“ElevenLabs”的AI声音克隆工具中，并且生成了明显带有色情性质的对话，例如让玩家和游戏中的吸血鬼Serana用着真人配音的声音做一些不可描述的场景。
虽然看上去并没有什么，毕竟在老滚5中打上R18Mod在玩家眼中已经算是正常操作了，但问题就在于——这些声音都是由真人配音演员配音的。
在Robbie列的列表中，包括了不少非常成功的配音演员，例如其中的April Stewart，她不仅在老滚系列中担任了多个角色的配音，同时也为《命运2》和《耻辱2》提供了声音；还有在《龙腾世纪：起源》中为泽弗兰配音的Jon Curry，以及一直在动画和游戏中为神奇女侠配音的Susan Eisenberg。
配音演员April Stwart和她配音的影视角色
在老滚5数以万计的Mods中，这位博主列出的只是自己所看到的少数配音演员，实际上有更多的配音演员在不知情的情况下，他们的声音被用于了色情内容。
在Robbie发推并且指责之后，这件事情也引起了互联网上的热烈讨论。
和之前AI绘图的争议一样，这次的配音演员们也和画师一样，联手开始在互联网上发声，以“VA（Voice Actor/Actress，配音演员）＞AI”的宣言抵制AI声音的不当利用。
但就在配音演员们的抗议声响起时，似乎还有更多的网友支持AI真人声音的二次创作。
前几天，P5中佐仓双叶的英配演员Erica Lindbeck发现了Youtube上有人利用了自己在P5中的配音翻唱了其他歌曲，于是将这个视频的链接转发到推特上，并且说明：“请举报这些内容，这是一种违法行为。”
但很快，Lindbeck的做法引来了不少网络喷子的注意，他们开始在评论区中争吵和谩骂，并且故意把这段视频大量投放在Youtube上。
最终，Lindbeck在一片争议声中删除了她的twitter和Instagram账号，不再发表任何声音。
油管上大量投放的视频
在我看来，在相关法律得到完善之前，这还是一个道德方面的问题。
虽然AI声音的确在某些情况下提供了许多便利，制作者可以以更低的成本进行创作，但是从配音演员的角度来看，当AI无需经过任何许可或付费就可以模仿和复制他们的声音时，这无异于是摔了人家的饭碗。
更重要的是，缺少法律的保护，不止是配音演员的声音，所有将自己的声音信息暴露在公共平台的人，都可能会在他们不知情的情况下被用于一些敏感内容，比如说色情或暴力内容，甚至是被用于诈骗信息。
当一个人的面孔甚至声音都能用AI重塑，那么这个人所有的行为都可能被恶意曲解，不难想象会遭遇什么样不可逆转的伤害。
和之前的换脸风波一样，Twitch的女主播仍在面临着被AI色情化的问题
所以我说，大家在AI声音这方面还是要谨慎一些吧——毕竟今天AI换了别人的声，明天可能就轮到我们自己了。