SiliconFlowのAPIでERNIE-4.5-300B-A47Bを実行する

2025/07/03

Mixture-of-Experts (MoE) アーキテクチャに基づいて構築されたこのモデルは、トークンごとに47Bの活性化パラメータを持つ300Bの総パラメータを特徴としています。それは、数学的推論、正確な計算、およびコード生成を含む複数のドメインで強力なパフォーマンスを発揮し、数学的計算やプログラミング関連のタスクに特に適しています。

SiliconFlowが提供するものは次の通りです:

推論アクセラレーション: 低レイテンシーと高スループットのために最適化されています。
拡張コンテキスト: 128Kトークンコンテキストウィンドウ。
コスト最適化された価格設定: $0.29/M token(インプット)および $1.15/M token (アウトプット)。

技術的ハイライト

ERNIE-4.5-300B-A47Bの命令追従と知識活用の優れた能力は、単一ターン、複数ターン、および多言語シナリオにおいて、モデルが多様なユーザー指示と内部知識をより良く解釈し遵守するように導く慎重に設計された報酬メカニズムを組み込んだ統合報酬システムに起因する可能性があります。

クイックスタート

SiliconFlow Playgroundで直接ERNIE-4.5-300B-A47Bモデルを試してみてください。

APIへのクイックアクセス

次のPythonの例では、SiliconFlowのAPIエンドポイントを使用してERNIE-4.5-300B-A47Bモデルを呼び出す方法を示します。詳細については、SiliconFlow APIドキュメントをご参照ください。

from openai import OpenAI

url = 'https://api.siliconflow.com/v1/'
api_key = 'your_api_key'

client = OpenAI(
    base_url=url,
    api_key=api_key
)

# Send a request with streaming output
content = ""
reasoning_content = ""
messages = [
    {"role": "user", "content": "Explain the concept of gravitational waves in Chinese?"}
]
response = client.chat.completions.create(
    model="baidu/ERNIE-4.5-300B-A47B",
    messages=messages,
    stream=True,  # Enable streaming output
    max_tokens=4096,
    extra_body={
        "thinking_budget": 1024
    }
)
# Gradually receive and process the response
for chunk in response:
    if chunk.choices[0].delta.content:
        content += chunk.choices[0].delta.content
    if chunk.choices[0].delta.reasoning_content:
        reasoning_content += chunk.choices[0].delta.reasoning_content

# Round 2
messages.append({"role": "assistant", "content": content})
messages.append({'role': 'user', 'content': "Continue"})
response = client.chat.completions.create(
    model="baidu/ERNIE-4.5-300B-A47B",
    messages=messages,
    stream=True
)

ERNIE-4.5-300B-A47Bは、先進的な自然言語理解および生成能力を求める開発者および研究者に最適な選択です。一般化、推論、コーディングタスクにおける優れたパフォーマンスにより、インテリジェントなアプリケーションの構築や革新的なユースケースの探索に適しています。最先端の言語能力を備えたプロダクションレディのソリューションを迅速に展開することができます。

今日からSiliconFlowでERNIE-4.5-300B-A47Bを使って構築を始めましょう！