Jalankan ERNIE-4.5-300B-A47B dengan API SiliconFlow

3 Jul 2025

Daftar Isi

Tim Baidu ERNIE telah mengumumkan peluncuran ERNIE-4.5-300B-A47B, sebuah model bahasa besar open-source yang kuat, sekarang tersedia di platform SiliconFlow.

Dibangun di atas arsitektur Mixture-of-Experts (MoE), model ini memiliki 300B total parameter dengan 47B parameter diaktifkan per token. Ini memberikan kinerja yang kuat di berbagai domain—termasuk penalaran matematis, komputasi akurat, dan pembangkitan kode—menjadikannya sangat cocok untuk aplikasi dalam komputasi matematis dan tugas terkait pemrograman.

SiliconFlow menawarkan:

Percepatan Inference: Dioptimalkan untuk latensi yang lebih rendah dan throughput yang lebih tinggi.
Konteks Diperluas: Jendela konteks 128K token.
Penetapan Harga yang Dioptimalkan untuk Biaya: $0.29/M tokens(input) dan $1.15/M tokens (output).

Sorotan Teknis

Kemampuan kuat ERNIE-4.5-300B-A47B dalam mengikuti instruksi dan pemanfaatan pengetahuan dalam skenario putaran tunggal, multi-putaran, dan multibahasa dapat dikaitkan dengan sistem penghargaan terpadu, yang mengintegrasikan mekanisme penghargaan yang dirancang dengan cermat untuk membimbing model dalam memberikan interpretasi yang lebih baik dan mematuhi berbagai instruksi pengguna dan pengetahuan internal.

Mulai Cepat

Cobalah model ERNIE-4.5-300B-A47B secara langsung di playground SiliconFlow.

Akses Cepat ke API

Contoh Python berikut menunjukkan cara memanggil model ERNIE-4.5-300B-A47B menggunakan endpoint API SiliconFlow. Untuk spesifikasi lebih lanjut, silakan merujuk ke dokumentasi API SiliconFlow.

from openai import OpenAI

url = 'https://api.siliconflow.com/v1/'
api_key = 'your_api_key'

client = OpenAI(
    base_url=url,
    api_key=api_key
)

# Send a request with streaming output
content = ""
reasoning_content = ""
messages = [
    {"role": "user", "content": "Explain the concept of gravitational waves in Chinese?"}
]
response = client.chat.completions.create(
    model="baidu/ERNIE-4.5-300B-A47B",
    messages=messages,
    stream=True,  # Enable streaming output
    max_tokens=4096,
    extra_body={
        "thinking_budget": 1024
    }
)
# Gradually receive and process the response
for chunk in response:
    if chunk.choices[0].delta.content:
        content += chunk.choices[0].delta.content
    if chunk.choices[0].delta.reasoning_content:
        reasoning_content += chunk.choices[0].delta.reasoning_content

# Round 2
messages.append({"role": "assistant", "content": content})
messages.append({'role': 'user', 'content': "Continue"})
response = client.chat.completions.create(
    model="baidu/ERNIE-4.5-300B-A47B",
    messages=messages,
    stream=True
)

ERNIE-4.5-300B-A47B adalah pilihan optimal untuk pengembang dan peneliti yang mencari kemampuan pemahaman dan generasi bahasa alami yang maju. Dengan kinerja kuatnya dalam generalisasi, penalaran, dan tugas pengkodean, model ini sangat cocok untuk membangun aplikasi cerdas dan mengeksplorasi kasus penggunaan inovatif. Ini memungkinkan tim untuk dengan cepat mengerahkan solusi yang siap produksi dengan kemampuan bahasa mutakhir.

Mulailah membangun dengan ERNIE-4.5-300B-A47B hari ini di SiliconFlow!

Sebelumnya