關於Seed-OSS-36B-Instruct
Seed-OSS 是由字节跳动 Seed 团队开发的一系列开源大型语言模型,旨在实现强大的长上下文处理、推理、代理能力和通用功能。在该系列中,Seed-OSS-36B-Instruct 是一个经过指令调优的模型,拥有 360 亿个参数,原生支持超长上下文长度,使其能够在一次性处理大型文档或复杂代码库。该模型专门针对推理、代码生成和代理任务(如工具使用)进行优化,同时保持平衡和优秀的通用功能。该模型的一个关键特征是“思考预算”功能,允许用户根据需要灵活调整推理长度,从而在实际应用中有效提高推理效率。
可用的無伺服器
立即運行查詢,僅按使用量付費
$
0.21
/
$
0.57
每百萬 Tokens(輸入/輸出)
元數據
規格
狀態
Available
架構
null
經過校準的
否
專家並行
否
總參數
36B
啟用的參數
36B
推理
否
精度
FP8
上下文長度
262K
最大輸出長度
262K
支援的功能
無伺服器
支持
無伺服器的 LoRA
不支持
微調
不支持
向量嵌入
不支持
重排序
不支持
支援圖片輸入
不支持
JSON 模式
支持
結構化輸出
不支持
工具
支持
中間填充補全
不支持
聊天前綴補全
支持
