uttapen

Llama 3.1 70B Instruct یا Llama 3.2 3B Instruct؟

هر دو با همان کلید و همان کد در یوتاپن کار می‌کنند؛ فقط مقدار model عوض می‌شود. پس می‌توانی بدون تغییر معماری، هر دو را روی کار واقعی خودت تست کنی. از نظر هزینه، Llama 3.2 3B Instruct حدود ۲٫۱ برابر ارزان‌تر تمام می‌شود.

ویژگیLlama 3.1 70B InstructLlama 3.2 3B Instruct
تأمین‌کنندهMetaMeta
شناسهٔ مدلmeta-llama/llama-3.1-70b-instructmeta-llama/llama-3.2-3b-instruct
context131,072 توکن131,072 توکن
حداکثر خروجی16,384 توکن117,964 توکن
ورودی / ۱M توکن116,050 تومان14,506 تومان
خروجی / ۱M توکن116,050 تومان95,741 تومان
≈ یک درخواست ۱٬۰۰۰ کلمه‌ای302 تومان143 تومان
cache ورودینداردندارد
ورودی تصویرنداردندارد
ورودی فایلنداردندارد
tool callingداردندارد
خروجی JSONدارددارد
حالت استدلالنداردندارد

کدام برای چه کاری؟

Llama 3.1 70B Instruct

  • ایجنت و اتصال به API و دیتابیس
  • کار پرحجم با هزینهٔ کم
302 تومان برای هر ۱٬۰۰۰ کلمه · صفحهٔ مدل

Llama 3.2 3B Instruct

  • کار پرحجم با هزینهٔ کم
143 تومان برای هر ۱٬۰۰۰ کلمه · صفحهٔ مدل

تست هر دو با یک کد

فقط model را بین دو شناسه عوض کن و همان درخواست را دو بار بفرست؛ هزینهٔ هر پاسخ در هدر X-Uttapen-Cost-Toman برمی‌گردد.

curl https://api.uttapen.ir/v1/chat/completions \
  -H "Authorization: Bearer sk-up-…" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/llama-3.1-70b-instruct",
    "messages": [{"role": "user", "content": "سلام! خودت را معرفی کن."}],
    "stream": true
  }'

model = "meta-llama/llama-3.2-3b-instruct"

مقایسه‌های دیگر: همهٔ جفت‌ها · رتبه‌بندی مدل‌ها · فهرست کامل

base_url = https://api.uttapen.ir/v1