关于Seed-OSS-36B-Instruct
Seed-OSS 是由字节跳动 Seed 团队开发的一系列开源大型语言模型,旨在实现强大的长上下文处理、推理、代理能力和通用能力。在此系列中,Seed-OSS-36B-Instruct 是一个经过指令调整的模型,具有 360 亿个参数,支持超长上下文长度,能够在单次通过中处理大量文档或复杂代码库。这个 模型 专门优化用于推理、代码生成和代理任务(如工具使用),同时保持平衡且卓越的通用能力。这个 模型 的一个关键功能是“思维预算”功能,允许用户根据需要灵活调整推理长度,从而在实际应用中有效提高 推理 效率。
可用的 Serverless
立即运行查询,仅按使用量付费
$
0.21
/
$
0.57
每 100 万 token(Input/Output)
元数据
规格
州
Available
建筑
校准的
不
专家混合
不
总参数
36B
激活的参数
36B
推理
不
精度
FP8
上下文长度
262K
最大输出长度
262K
支持功能
Serverless
支持
Serverless LoRA
不支持
微调
不支持
Embeddings
不支持
Rerankers
不支持
支持 Image Input
不支持
JSON Mode
支持
结构化Outputs
不支持
工具
支持
FIM 补全
不支持
对话前缀补全
支持
