Hunyuan-A13B-Instruct 現已在 SiliconFlow 上提供

2025年6月30日

為何 Hunyuan-A13B-Instruct 與眾不同？

緊湊而強大：僅需 130 億活躍參數（總共 800 億），該模型便可在廣泛的基準任務中提供競爭性能，能與更大的模型相媲美。
混合推理支持：支援快速和慢速思維模式，允許用戶根據需求靈活選擇。
超長上下文理解：原生支援 256K 的上下文窗口，在長文本任務中保持穩定性能。
增強的代理能力：針對代理任務進行優化，在 BFCL-v3、τ-Bench 和 C3-Bench 等基準上取得領先結果。
高效推理：使用分組查詢注意力（GQA）並支持多種量化格式，使得推理效率極高。

快速開始

在SiliconFlow playground上直接嘗試 Hunyuan-A13B-Instruct 模型。

快速訪問 API

以下 Python 範例演示了如何使用 SiliconFlow 的 API 端點調用 Hunyuan-A13B-Instruct 模型。如需更多規範，請參閱SiliconFlow API 文件。

from openai import OpenAI

url = 'https://api.siliconflow.com/v1/'
api_key = 'your_api_key'

client = OpenAI(
    base_url=url,
    api_key=api_key
)

# Send a request with streaming output
content = ""
reasoning_content = ""
messages = [
    {"role": "user", "content": "How do you implement a binary search algorithm in Python with detailed comments?"}
]
response = client.chat.completions.create(
    model="tencent/Hunyuan-A13B-Instruct",
    messages=messages,
    stream=True,  # Enable streaming output
    max_tokens=4096,
    extra_body={
        "thinking_budget": 1024
    }
)
# Gradually receive and process the response
for chunk in response:
    if chunk.choices[0].delta.content:
        content += chunk.choices[0].delta.content
    if chunk.choices[0].delta.reasoning_content:
        reasoning_content += chunk.choices[0].delta.reasoning_content

# Round 2
messages.append({"role": "assistant", "content": content})
messages.append({'role': 'user', 'content': "Continue"})
response = client.chat.completions.create(
    model="tencent/Hunyuan-A13B-Instruct",
    messages=messages,
    stream=True
)