文/一碗葫蘆
隨著AI在生成圖片和文字方面的技術日漸成熟，不少人開始另闢蹊徑，探索起了 “AI聲音”的可能性。
前段時間，B站上的“AI孫燕姿”似乎已經超過了本人，成為了新的互聯網頂流。
令人感到驚訝的是，AI生成的音色竟然真的和孫燕姿本人的聲音差不多，如果不仔細聽根本聽不出和本人的區別。
但就和AI圖片、文字所經歷的一樣，AI聲音也在缺乏監管的情況下開始走向了歪門邪道。
最近，一位Twitter用戶Robbie92發佈了一篇帖子，控訴起了《上古卷軸5》的Mod社區正在使用AI配音來創建和傳播未經本人允許的色情內容。
眾所周知，《上古卷軸5》打沒打Mod完全是兩個遊戲。所以，老滾5的Mod社區也可以說是比遊戲還要重要的一個存在。
打了Mod的老滾5
其中，Nexus Mods是老滾5最大的Mod社區。
畢竟這個網站始於《上古卷軸3》的Mod創建與分享，而如今已發展成為不止是上古卷軸系列的眾多遊戲的重要Mod來源。
網站中有著6w+的老滾5Mod。
今年4月，Nexus Mods發佈了一篇公告，宣佈“AI生成的Mod並不違反我們的規則”，公開歡迎Mod製作者利用AI工具製作Mod。
Nexus表示AI生成的Mods並不違反網站規則
或許正是因為這個原因，Mod社區中的AI創作也變得更加普遍，像是用AI改善NPC行為方式等的Mod也有不少。
老滾5的AI對話Mod
老實說，把AI技術加進遊戲裡，其實能夠很大程度上改變玩家的遊戲體驗。畢竟當NPC有了“自我意識”，會根據玩家的舉動做出反應，也會讓玩家得到更加沉浸的體驗。
但是一旦有製作者開始利用AI工具做些“不正當的事情”，事情就開始變得沒那麼簡單了。
據twitter用戶Robbie所說，在老滾5的Mod社區中，不少系列的配音演員都在不知情的情況下被Mod製作者利用在了色情內容中。
Mod製作者將這些配音演員的聲音輸入到一個叫做“ElevenLabs”的AI聲音克隆工具中，並且生成了明顯帶有色情性質的對話，例如讓玩家和遊戲中的吸血鬼Serana用著真人配音的聲音做一些不可描述的場景。
雖然看上去並沒有什麼，畢竟在老滾5中打上R18Mod在玩家眼中已經算是正常操作了，但問題就在於——這些聲音都是由真人配音演員配音的。
在Robbie列的列表中，包括了不少非常成功的配音演員，例如其中的April Stewart，她不僅在老滾系列中擔任了多個角色的配音，同時也為《天命2》和《恥辱2》提供了聲音；還有在《龍騰世紀：起源》中為澤弗蘭配音的Jon Curry，以及一直在動畫和遊戲中為神奇女俠配音的Susan Eisenberg。
配音演員April Stwart和她配音的影視角色
在老滾5數以萬計的Mods中，這位博主列出的只是自己所看到的少數配音演員，實際上有更多的配音演員在不知情的情況下，他們的聲音被用於了色情內容。
在Robbie發推並且指責之後，這件事情也引起了互聯網上的熱烈討論。
和之前AI繪圖的爭議一樣，這次的配音演員們也和畫師一樣，聯手開始在互聯網上發聲，以“VA（Voice Actor/Actress，配音演員）＞AI”的宣言抵制AI聲音的不當利用。
但就在配音演員們的抗議聲響起時，似乎還有更多的網友支持AI真人聲音的二次創作。
前幾天，P5中佐倉雙葉的英配演員Erica Lindbeck發現了Youtube上有人利用了自己在P5中的配音翻唱了其他歌曲，於是將這個視頻的鏈接轉發到推特上，並且說明：“請舉報這些內容，這是一種違法行為。”
但很快，Lindbeck的做法引來了不少網絡噴子的注意，他們開始在評論區中爭吵和謾罵，並且故意把這段視頻大量投放在Youtube上。
最終，Lindbeck在一片爭議聲中刪除了她的twitter和Instagram賬號，不再發表任何聲音。
油管上大量投放的視頻
在我看來，在相關法律得到完善之前，這還是一個道德方面的問題。
雖然AI聲音的確在某些情況下提供了許多便利，製作者可以以更低的成本進行創作，但是從配音演員的角度來看，當AI無需經過任何許可或付費就可以模仿和複製他們的聲音時，這無異於是摔了人家的飯碗。
更重要的是，缺少法律的保護，不止是配音演員的聲音，所有將自己的聲音信息暴露在公共平臺的人，都可能會在他們不知情的情況下被用於一些敏感內容，比如說色情或暴力內容，甚至是被用於詐騙信息。
當一個人的面孔甚至聲音都能用AI重塑，那麼這個人所有的行為都可能被惡意曲解，不難想象會遭遇什麼樣不可逆轉的傷害。
和之前的換臉風波一樣，Twitch的女主播仍在面臨著被AI色情化的問題
所以我說，大家在AI聲音這方面還是要謹慎一些吧——畢竟今天AI換了別人的聲，明天可能就輪到我們自己了。