Langsung ke konten
MetaChatllama-3.1-70b-instruct

Llama 3.1 70B Instruct

Llama 3.1 70B Instruct untuk Chat Completions gaya OpenAI, Messages gaya Anthropic, Responses gaya OpenAI.

Jelajahi Llama 3.1 70B Instruct untuk Chat Completions gaya OpenAI, Messages gaya Anthropic, Responses gaya OpenAI melalui API terpadu. Antarmuka yang didukung dan ketersediaan saat ini ditampilkan di bawah.

  • Chat Completions gaya OpenAI
  • Messages gaya Anthropic
  • Responses gaya OpenAI

Detail model

Context window
128K token
Output maksimum
2K token
Input
Teks
Output
Teks
Kemampuan
Streaming
Antarmuka
Chat Completions gaya OpenAI, Messages gaya Anthropic, Responses gaya OpenAI

Harga

Per 1M token. Harga Inferray adalah jumlah yang ditagihkan kepada Anda — tanpa biaya gateway tambahan di atasnya.

Harga Llama 3.1 70B Instruct.
MetrikHarga
Input$0.792
Input cacheHarga belum dipublikasikan
Output$0.792

Mengapa tim memilihnya

  • Llama 3.1 70B Instruct untuk Chat Completions gaya OpenAI, Messages gaya Anthropic, Responses gaya OpenAI.

Panggil Llama 3.1 70B Instruct

Llama 3.1 70B Instruct dapat dipanggil melalui API mana pun di bawah — pilih yang sudah digunakan kode Anda, lalu cukup ganti dengan kunci Inferray Anda.

/v1/chat/completionsChat Completions gaya OpenAI · openai SDK atau HTTP biasa
curl https://api.inferray.com/v1/chat/completions \
  -H "Authorization: Bearer inferray_..." \
  -H "Content-Type: application/json" \
  -d '{
  "model": "llama-3.1-70b-instruct",
  "messages": [
    {
      "role": "user",
      "content": "Hello"
    }
  ]
}'
/v1/messagesMessages gaya Anthropic · @anthropic-ai/sdk SDK atau HTTP biasa
curl https://api.inferray.com/v1/messages \
  -H "Authorization: Bearer inferray_..." \
  -H "Content-Type: application/json" \
  -d '{
  "model": "llama-3.1-70b-instruct",
  "max_tokens": 1024,
  "messages": [
    {
      "role": "user",
      "content": "Hello"
    }
  ]
}'
/v1/responsesResponses gaya OpenAI · openai SDK atau HTTP biasa
curl https://api.inferray.com/v1/responses \
  -H "Authorization: Bearer inferray_..." \
  -H "Content-Type: application/json" \
  -d '{
  "model": "llama-3.1-70b-instruct",
  "input": "Hello"
}'

Pemadatan percakapan juga tersedia di POST /v1/responses/compact.

Lainnya dari Meta