Hunyuan-A13B-Instruct Sekarang Tersedia di SiliconFlow

30 Jun 2025

Daftar Isi

Tim Tencent Hunyuan AI mengumumkan peluncuran Hunyuan-A13B-Instruct, sebuah model bahasa besar sumber terbuka (LLM) yang sekarang tersedia di platform SiliconFlow.

Dibangun di atas arsitektur Mixture-of-Experts (MoE) yang sangat detail, model ini secara efisien menskalakan total 80B parameter dengan hanya 13B parameter aktif, mencapai kinerja terkini di berbagai benchmark—khususnya dalam matematika, sains, domain agen, dan lainnya.

SiliconFlow mendukung:

Konteks Diperpanjang: Default 128K token jendela konteks(256K tersedia atas permintaan).
Harga yang Dioptimalkan untuk Biaya: 0,14/M token(input) dan 0,57/M token (output).

Mengapa Hunyuan-A13B-Instruct penting?

Kompak namun Kuat: Dengan hanya 13 miliar parameter aktif (dari total 80 miliar), model ini memberikan kinerja yang kompetitif pada berbagai tugas benchmark, menandingi model yang jauh lebih besar.
Dukungan Penalaran Hibrid: Mendukung mode berpikir cepat dan lambat, memungkinkan pengguna memilih secara fleksibel sesuai kebutuhan mereka.
Pemahaman Konteks Ultra-Panjang: Secara alami mendukung jendela konteks 256K, mempertahankan kinerja yang stabil pada tugas teks panjang.
Kapabilitas Agen yang Ditingkatkan: Dioptimalkan untuk tugas agen, mencapai hasil terdepan di benchmark seperti BFCL-v3, τ-Bench dan C3-Bench.
Inferensi yang Efisien: Memanfaatkan Grouped Query Attention (GQA) dan mendukung berbagai format kuantisasi, memungkinkan inferensi yang sangat efisien.

Memulai dengan Cepat

Coba langsung model Hunyuan-A13B-Instruct di SiliconFlow playground.

Akses Cepat ke API

Contoh Python berikut menunjukkan cara mengaktifkan model Hunyuan-A13B-Instruct menggunakan endpoint API SiliconFlow. Untuk spesifikasi lebih lanjut, silakan merujuk ke dokumentasi API SiliconFlow.

from openai import OpenAI

url = 'https://api.siliconflow.com/v1/'
api_key = 'your_api_key'

client = OpenAI(
    base_url=url,
    api_key=api_key
)

# Send a request with streaming output
content = ""
reasoning_content = ""
messages = [
    {"role": "user", "content": "How do you implement a binary search algorithm in Python with detailed comments?"}
]
response = client.chat.completions.create(
    model="tencent/Hunyuan-A13B-Instruct",
    messages=messages,
    stream=True,  # Enable streaming output
    max_tokens=4096,
    extra_body={
        "thinking_budget": 1024
    }
)
# Gradually receive and process the response
for chunk in response:
    if chunk.choices[0].delta.content:
        content += chunk.choices[0].delta.content
    if chunk.choices[0].delta.reasoning_content:
        reasoning_content += chunk.choices[0].delta.reasoning_content

# Round 2
messages.append({"role": "assistant", "content": content})
messages.append({'role': 'user', 'content': "Continue"})
response = client.chat.completions.create(
    model="tencent/Hunyuan-A13B-Instruct",
    messages=messages,
    stream=True
)

Hunyuan-A13B-Instruct adalah pilihan ideal bagi peneliti dan pengembang yang mencari kinerja tinggi. Baik untuk penelitian akademik, pengembangan solusi AI yang hemat biaya, atau eksplorasi aplikasi inovatif, model ini menyediakan fondasi yang kuat untuk kemajuan.

Mulai membangun dengan Hunyuan-A13B-Instruct hari ini di SiliconFlow!

Sebelumnya