Dokki 使用即時模型目錄來支援 Copilot、代理程式和生成工作流程。作用中的目錄儲存在 Dokki 的 ai_models 設定中,並從 /api/models 提供給用戶端;程式碼帶有啟動後援,因此在啟動或目錄讀取失敗時,選取器永遠不會是空的。
模型目錄
生產環境的資料庫目錄是決定哪些模型已啟用、其存取等級、顯示順序、預設模型和使用費率的權威來源。Dokki 僅在資料庫目錄無法載入時,才會保留啟動目錄作為暫時後援。由於目錄可能獨立於本指南而變更,請使用模型選取器來查看目前清單。
自動路由
模型選取器包含 Auto。Auto 不會傳送給提供者。它是一個哨兵值,聊天 API 會為每個請求將其解析為計畫內的具體模型。
自動路由會檢視最新的使用者回合:
訊號 | 效果 |
|---|---|
簡短/簡單的文字 | 偏好快速且低成本模型。 |
較長文字 | 傾向使用中等強度的模型。 |
程式碼、除錯、架構、分析或複雜推理的關鍵字 | 偏好較強的模型。 |
圖片附件 | 當計畫和組織允許時,偏好具備視覺能力的模型。 |
自動路由也會遵守目前計畫和組織的模型允許清單。它不會
使用已停用或從目錄中移除的模型。Auto 可
用於 Copilot 和代理程式執行。
模型等級
選取器將模型存取分組為 AI Basic Models、AI Pro Models 和 AI Max Models。即使用戶端選取器有過期資料,計畫門檻仍會在伺服器端強制執行。
當模型超出使用者的計畫時,用戶端選取器會顯示鎖定的模型。在組織環境中,如果已設定組織的允許模型清單,它也會據此篩選選取器。
視覺模型
影像理解僅限於在作用中目錄中標記為具備視覺能力的模型。如果所選模型無法讀取附件圖片,請選擇選取器中顯示的具備視覺能力的模型,或使用 Auto。請勿依賴某個指定模型永遠可用。
點數與限制
每個完成的回合都會根據輸入/輸出 token 和作用中模型的目錄費率來計算點數。如果在計費期間目錄查詢失敗,Dokki 會使用保守的後援費率,而非將該回合視為免費。
計畫可以設定每日和每週的使用時段。啟用後,額外使用量可以在包含的限制之後繼續,直到點數或設定的上限用完為止。
組織控制
組織可以使用允許清單來限制可用模型。空的允許清單表示成員可以使用其計畫允許的任何模型。非空的允許清單會縮小組織工作區的模型範圍,同時也會限制 Auto 路由。
