關於Seed-OSS-36B-Instruct
Seed-OSS 是由字节跳动 Seed 团队开发的一系列开源大型语言模型,旨在实现强大的长上下文处理、推理、代理能力和通用功能。在该系列中,Seed-OSS-36B-Instruct 是一个经过指令调优的模型,拥有 360 亿个参数,原生支持超长上下文长度,使其能够在一次性处理大型文档或复杂代码库。该模型专门针对推理、代码生成和代理任务(如工具使用)进行优化,同时保持平衡和优秀的通用功能。该模型的一个关键特征是“思考预算”功能,允许用户根据需要灵活调整推理长度,从而在实际应用中有效提高推理效率。
可用的無伺服器
立即運行查詢,僅按使用量付費
每百萬 Tokens(輸入/輸出)
$
0.21
/ M Tokens
每百萬 Tokens(輸入/輸出)
$
0.57
/ M Tokens
元數據
規格
狀態
Available
架構
Transformer Decoder
經過校準的
否
專家並行
否
總參數
36B
啟用的參數
36B
推理
否
精度
FP8
上下文長度
262K
最大輸出長度
262K
支援的功能
無伺服器
支持
無伺服器的 LoRA
不支持
微調
不支持
向量嵌入
不支持
重排序
不支持
支援圖片輸入
不支持
JSON 模式
支持
結構化輸出
不支持
工具
支持
中間填充補全
不支持
聊天前綴補全
支持
與其他模型比較
看看這個模型與其他模型的對比如何。
