本篇文章是基於已經申請好個人API或有本地大模型的情況下進行的相對進階教程(本地模型只推薦在有不錯ai能力的電腦上使用)
如果你還沒有自己的本地模型或各大模型的官方API接口請先移步這篇文章
DeepSeek API掛了?實測有效的替代方法,附詳細步驟
我們先來簡單聊聊“SillyTavern”(以下簡稱酒館)酒館本身並不生成回覆,可以看做一個前端界面,回覆輸出都是依賴於連接的AI後端。(還不會部署的小夥伴可以去自行搜索,部署流程已經非常簡潔了,手機電腦均可)
對於有某些需求的用戶,或想要體驗聊天“完整劇情”的用戶,酒館無疑是相當不錯的選擇,其豐富的功能和強大的可玩性也讓酒館成為了我日常使用的主力(有更好軟件的大佬也希望在評論區裡不吝推薦)
目前,基本市面上的大模型基本都可以接入酒館,但它們的質量參差不齊,選擇合適的模型對用戶體驗至關重要。先來粗略講一下本地模型的接入。
P.S:文中提到的所有軟件的安裝都是可以在阿b或搜索引擎裡找到完整且詳細的教程
拿我經常用的“Ollama”為例,在啟動ollama之後,運行酒館並在裡面找到“API連接配置”(頂部的小插頭)。如果接入本地模型請在“API欄”選擇“文本補全”,並在在“API地址”一欄輸入ollama的本地端口,沒找到的朋友可以直接輸入圖裡的地址

裡面的地址就是ollama的默認端口
在這之後點擊連接就能成功的接入ollama,模型列表裡也會刷新出在ollama裡面的所有模型


不過由於本人的電腦ai性能並不是特別好(4070桌面端+32g內存)這也導致我平常很少會使用本地模型,圖裡的32b的r1推理模型在我電腦上詮釋了真正的龜速是什麼,而再低的模型使用體驗上也會有所下降
故而我們開始介紹酒館裡API的使用教程,還是拿上期說到的硅基流動API為例。首先依舊是打開酒館界面,不過這次需要選擇“聊天補全”,在聊天補全裡我們可以看到有很多的API提供方,如果你用的api提供方是列表裡存在的,那麼直接選擇對應的,並輸入你的api密鑰就可以了


成功鏈接deepseek官方api的界面
但不難發現,在列表裡並沒有任何硅基流動或siliconflow的字樣,這時候就需要我們選擇“自定義”這一選項

不同於列表中已經存在的api提供方,自定義裡面不僅僅需要輸入api密鑰,我們還需要完善“自定義端點”,而下面標紅的部分便是需要輸入的內容(其它自定義api提供方同理)

圖源來自硅基流動官方的api使用文檔
在完成上述步驟後,點擊連接出現下圖就是正式成功了

圖中的api密鑰是隱藏狀態,實際上必須輸入
可以看見在“可用模型”中刷出來的這一列便是我們能正常使用的模型,按需選擇便可。
不過眾所周知,為了維護互聯網和諧文明的風氣,為ai模型添加限制是必不可少的,這些限制可能是模型設計者出於安全、倫理或法律考慮而設置的,也可能是模型本身的技術侷限性,它們能保證用戶能夠健康積極的使用ai,不被低劣的信息所影響。
所以我們接下來要學會的是,如何避免在生成內容時出現某些突破限制或約束的情況(破限)
首先,避免ai破限的最簡單方法就是不要使用某些設計好的系統提示詞(也稱穿甲文本),這種行為可能會直接攻破一些薄甲的大模型,導致ai生成不正常的文本

錯誤範例,請勿模仿
那麼面對那些道德水準極高、有著極為嚴格防護的ai模型我們就能放心使用了嗎,答案是否定的。縱使是這種ai,我們依然需要提防導入破限預設這種情況

部分破限預設需要搭配正則表達式使用
好了,不皮了😋總結就是,薄甲大模型不想折騰直接用系統提示詞,厚甲需要搭配破限的文件,但由於我用的很多文件都不是自己寫的,也就暫時不提供資源了,還請大家見諒大家可以去自行找找,或在下面交流,總的來說基本上是一搜就有
本文只為大家提供一個入門的思路,酒館還有更多功能值得探索,比如接入tts模型開始語音聊天或爆改聊天界面,最好的方法是加入discord的類腦社區,不過由於最近暫停邀請,所以大家可以去加入各大相關扣扣群交流,有推薦的本地模型也希望大佬在下面指個路
如文章有任何不準確或不嚴謹以及錯誤的表達,還請各位不吝指正,歡迎交流❤