چطور با Llama 3.1 8B Instruct در ایران کار کنم؟

در یوتاپن ثبتنام کن، کیف پول را تومانی شارژ کن، کلید API بساز و در SDK رسمی OpenAI فقط base_url را به https://api.uttapen.ir/v1 و model را به «meta-llama/llama-3.1-8b-instruct» تغییر بده. بقیهٔ کدت دستنخورده میماند.

قیمت Llama 3.1 8B Instruct به تومان چقدر است؟

هر ۱ میلیون توکن ورودی ۱۴٬۵۰۶ تومان و هر ۱ میلیون توکن خروجی ۲۳٬۲۱۰ تومان؛ یک درخواست ۱٬۰۰۰ کلمهای تقریباً ۴۹ تومان. شارژ بر اساس مصرف واقعی همان درخواست است و درخواست ناموفق صفر تومان.

Llama 3.1 8B Instruct چند توکن ورودی میگیرد؟

تا ۱۳۱٬۰۷۲ توکن در هر درخواست؛ برای متن فارسی حدود ۹۸ هزار کلمه. حداکثر طول پاسخ هم ۱۱۷٬۹۶۴ توکن است.

آیا Llama 3.1 8B Instruct استریم و tool calling را پشتیبانی میکند؟

استریم (stream=true) روی همهٔ مدلها فعال است. این مدل tool calling را با همان قالب OpenAI پشتیبانی میکند. خروجی ساختیافته با response_format هم کار میکند.

قیمت و API مدل Llama 3.1 8B Instruct در ایران

meta-llama/llama-3.1-8b-instruct

toolsjson

ساخت کلید امتحان کن

ورودی · هر ۱M توکن

14,506 تومان

خروجی · هر ۱M توکن

23,210 تومان

یک درخواست ۱٬۰۰۰ کلمه‌ای ≈

49 تومان

شارژ بر اساس مصرف واقعی همان درخواست. قیمت‌ها با تغییر شرایط بازار به‌روز می‌شوند. cache ورودی: 7,253 تومان / 1M.قیمت‌ها و شارژ

کد آمادهٔ Llama 3.1 8B Instruct: خروجی JSON با اسکیمای مشخص

نمونه بر اساس قابلیت‌های همین مدل انتخاب شده و با کلید خودت بدون تغییر دیگری اجرا می‌شود.

from openai import OpenAI
import json

client = OpenAI(base_url="https://api.uttapen.ir/v1", api_key="sk-up-…")

schema = {
    "name": "ticket",
    "schema": {
        "type": "object",
        "properties": {
            "category": {"type": "string", "enum": ["fani", "mali", "forush"]},
            "priority": {"type": "integer", "minimum": 1, "maximum": 5},
            "summary": {"type": "string"},
        },
        "required": ["category", "priority", "summary"],
        "additionalProperties": False,
    },
    "strict": True,
}

resp = client.chat.completions.create(
    model="meta-llama/llama-3.1-8b-instruct",
    messages=[{"role": "user", "content": "تیکت: «دو روزه نمی‌تونم فاکتور دانلود کنم و پرداختم هم دوباره کسر شد.»"}],
    response_format={"type": "json_schema", "json_schema": schema},
)
print(json.loads(resp.choices[0].message.content))

import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.uttapen.ir/v1", apiKey: "sk-up-…" });

const resp = await client.chat.completions.create({
  model: "meta-llama/llama-3.1-8b-instruct",
  messages: [{ role: "user", content: "تیکت: «دو روزه نمی‌تونم فاکتور دانلود کنم و پرداختم هم دوباره کسر شد.»" }],
  response_format: {
    type: "json_schema",
    json_schema: {
      name: "ticket",
      strict: true,
      schema: {
        type: "object",
        properties: {
          category: { type: "string", enum: ["fani", "mali", "forush"] },
          priority: { type: "integer", minimum: 1, maximum: 5 },
          summary: { type: "string" },
        },
        required: ["category", "priority", "summary"],
        additionalProperties: false,
      },
    },
  },
});
console.log(JSON.parse(resp.choices[0].message.content));

curl https://api.uttapen.ir/v1/chat/completions \
  -H "Authorization: Bearer sk-up-…" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/llama-3.1-8b-instruct",
    "messages": [{"role": "user", "content": "تیکت را دسته‌بندی کن و اولویت ۱ تا ۵ بده."}],
    "response_format": {"type": "json_object"}
  }'

Llama 3.1 8B Instruct برای چه کاری خوب است؟

Llama 3.1 8B Instruct از Meta می‌آید؛ در کد فقط همین رشته را در فیلد model بگذار: «meta-llama/llama-3.1-8b-instruct». Llama 3.1 8B Instruct تا ۱۳۱٬۰۷۲ توکن را در یک درخواست نگه می‌دارد (نزدیک ۹۸ هزار کلمهٔ فارسی)، و همین عدد سقف تاریخچهٔ گفتگو در محصول تو را تعیین می‌کند. حداکثر طول پاسخ در هر فراخوانی ۱۱۷٬۹۶۴ توکن است. از نظر قیمت در دستهٔ «بسیار ارزان» است — ارزان‌تر از ۶ مدل و گران‌تر از ۴۰۰ مدل پولی دیگر کاتالوگ.

چه کارهایی از آن برمی‌آید: tool calling دارد، یعنی می‌تواند تابع‌های خودت را با آرگومان درست صدا بزند؛ با response_format خروجی JSON معتبر می‌دهد و مستقیم به کد وصل می‌شود. همهٔ این‌ها با همان پارامترهای استاندارد SDK رسمی OpenAI کار می‌کنند و کد اختصاصی لازم ندارند.

۱۴٬۵۰۶ تومان برای هر ۱M توکن ورودی و ۲۳٬۲۱۰ تومان برای هر ۱M توکن خروجی؛ در دستهٔ «بسیار ارزان» کاتالوگ می‌نشیند و یک درخواست ۱٬۰۰۰ کلمه‌ای ≈ ۴۹ تومان. cache ورودی دارد: توکن‌های تکراری context با ۷٬۲۵۳ تومان / ۱M حساب می‌شوند، که برای پرامپت سیستمی بلند تفاوت بزرگی است. شارژ نهایی همیشه بر اساس مصرف واقعی همان درخواست است، نه برآورد؛ درخواست ناموفق صفر تومان.

نزدیک‌ترین گزینه با همین قابلیت‌ها از تأمین‌کنندهٔ دیگر Ling 3.0 Flash است: Llama 3.1 8B Instruct تقریباً 1.5 برابر گران‌تر از آن تمام می‌شود و پنجرهٔ context آن کوچک‌تر است. هر دو با همان کلید و همان کد کار می‌کنند، پس عوض‌کردن‌شان فقط تغییر یک رشته است.

برای اینکه عدد قابل تصور شود: با ۱۰۰ هزار تومان اعتبار، حدود ۲٬۰۴۱ درخواست ۱٬۰۰۰ کلمه‌ای روی Llama 3.1 8B Instruct جا می‌شود، و هر ۱٬۰۰۰ تومان تقریباً ۲۰٬۴۰۸ کلمه رفت‌وبرگشت می‌خرد. اگر پردازشی یک میلیون توکن ورودی و یک میلیون توکن خروجی داشته باشد، کل آن ۳۷٬۷۱۶ تومان می‌شود. پر کردن کامل پنجرهٔ ۱۳۱٬۰۷۲ توکنی این مدل فقط از سمت ورودی ۱٬۹۰۱ تومان هزینه دارد، پس تاریخچهٔ گفتگو را بی‌دلیل بلند نگه ندار.

نزدیک‌ترین هم‌خانوادهٔ این مدل «meta-llama/llama-3.3-70b-instruct» است و انتخاب بین این دو همان جایی است که بیشتر آدم‌ها گیر می‌کنند. روی یک درخواست ۱٬۰۰۰ کلمه‌ای، این نسخه 3.2 برابر ارزان‌تر از آن درمی‌آید (۴۹ در برابر ۱۵۸ تومان). حداکثر طول پاسخ هم فرق دارد: ۱۱۷٬۹۶۴ در برابر ۱۶٬۳۸۴ توکن.

Meta در کاتالوگ ما ۸ مدل دارد؛ ارزان‌ترین‌شان Llama 3.1 8B Instruct با ۴۹ تومان و گران‌ترین Llama 4 Maverick با ۳۳۸ تومان برای هر ۱٬۰۰۰ کلمه. از پارامترهای کم‌تکرار، این مدل logit_bias، logprobs، min_p، repetition_penalty، top_k، top_logprobs را می‌پذیرد — همه از طریق همان بدنهٔ استاندارد درخواست. در عوض include_reasoning، reasoning را که بیشتر مدل‌ها دارند پشتیبانی نمی‌کند، پس اگر کدت به آن‌ها تکیه دارد قبل از جابه‌جایی تست کن. از نظر اندازهٔ context نزدیک‌ترین گزینه از تأمین‌کنندهٔ دیگر Aion-2.0 با ۱۳۱٬۰۷۲ توکن است.

کجا انتخاب درستی است: کار پرحجم مثل دسته‌بندی، برچسب‌گذاری و خلاصه‌سازی انبوه، ایجنت‌هایی که به API و دیتابیس وصل می‌شوند، استخراج داده با اسکیمای مشخص.

توضیح رسمی تأمین‌کننده (انگلیسی)

Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 8B instruct-tuned version is fast and efficient. It has demonstrated strong performance compared to...

سه کار واقعی، با قیمت همین مدل

اعداد از همان قیمت‌های بالا حساب شده‌اند و با تغییر قیمت مدل تغییر می‌کنند.

کار	توکن	هزینه
یک نوبت گفتگو با تاریخچهٔ متوسط	1,500 ورودی + 400 خروجی	31 تومان
خلاصه‌کردن سند ده‌صفحه‌ای	4,000 ورودی + 600 خروجی	72 تومان
دسته‌بندی هزار ردیف کوتاه	120,000 ورودی + 20,000 خروجی	2,205 تومان

سؤال‌های پرتکرار

چطور با Llama 3.1 8B Instruct در ایران کار کنم؟: در یوتاپن ثبت‌نام کن، کیف پول را تومانی شارژ کن، کلید API بساز و در SDK رسمی OpenAI فقط base_url را به https://api.uttapen.ir/v1 و model را به «meta-llama/llama-3.1-8b-instruct» تغییر بده. بقیهٔ کدت دست‌نخورده می‌ماند.
قیمت Llama 3.1 8B Instruct به تومان چقدر است؟: هر ۱ میلیون توکن ورودی ۱۴٬۵۰۶ تومان و هر ۱ میلیون توکن خروجی ۲۳٬۲۱۰ تومان؛ یک درخواست ۱٬۰۰۰ کلمه‌ای تقریباً ۴۹ تومان. شارژ بر اساس مصرف واقعی همان درخواست است و درخواست ناموفق صفر تومان.
Llama 3.1 8B Instruct چند توکن ورودی می‌گیرد؟: تا ۱۳۱٬۰۷۲ توکن در هر درخواست؛ برای متن فارسی حدود ۹۸ هزار کلمه. حداکثر طول پاسخ هم ۱۱۷٬۹۶۴ توکن است.
آیا Llama 3.1 8B Instruct استریم و tool calling را پشتیبانی می‌کند؟: استریم (stream=true) روی همهٔ مدل‌ها فعال است. این مدل tool calling را با همان قالب OpenAI پشتیبانی می‌کند. خروجی ساخت‌یافته با response_format هم کار می‌کند.