قیمت و API مدل Llama 3.1 8B Instruct در ایران
meta-llama/llama-3.1-8b-instruct
شارژ بر اساس مصرف واقعی همان درخواست. قیمت‌ها با تغییر شرایط بازار به‌روز می‌شوند. ورودی کش‌شده: ۸٬۶۵۵ تومان به‌ازای هر ۱M توکن.قیمت‌ها و شارژ
کد آمادهٔ Llama 3.1 8B Instruct: خروجی JSON با اسکیمای مشخص
نمونه بر اساس قابلیت‌های همین مدل انتخاب شده و با کلید خودت بدون تغییر دیگری اجرا می‌شود.
from openai import OpenAI
import json
client = OpenAI(base_url="https://api.uttapen.ir/v1", api_key="sk-up-…")
schema = {
"name": "ticket",
"schema": {
"type": "object",
"properties": {
"category": {"type": "string", "enum": ["fani", "mali", "forush"]},
"priority": {"type": "integer", "minimum": 1, "maximum": 5},
"summary": {"type": "string"},
},
"required": ["category", "priority", "summary"],
"additionalProperties": False,
},
"strict": True,
}
resp = client.chat.completions.create(
model="meta-llama/llama-3.1-8b-instruct",
messages=[{"role": "user", "content": "تیکت: «دو روزه نمی‌تونم فاکتور دانلود کنم و پرداختم هم دوباره کسر شد.»"}],
response_format={"type": "json_schema", "json_schema": schema},
)
print(json.loads(resp.choices[0].message.content))import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.uttapen.ir/v1", apiKey: "sk-up-…" });
const resp = await client.chat.completions.create({
model: "meta-llama/llama-3.1-8b-instruct",
messages: [{ role: "user", content: "تیکت: «دو روزه نمی‌تونم فاکتور دانلود کنم و پرداختم هم دوباره کسر شد.»" }],
response_format: {
type: "json_schema",
json_schema: {
name: "ticket",
strict: true,
schema: {
type: "object",
properties: {
category: { type: "string", enum: ["fani", "mali", "forush"] },
priority: { type: "integer", minimum: 1, maximum: 5 },
summary: { type: "string" },
},
required: ["category", "priority", "summary"],
additionalProperties: false,
},
},
},
});
console.log(JSON.parse(resp.choices[0].message.content));curl https://api.uttapen.ir/v1/chat/completions \
-H "Authorization: Bearer sk-up-…" \
-H "Content-Type: application/json" \
-d '{
"model": "meta-llama/llama-3.1-8b-instruct",
"messages": [{"role": "user", "content": "تیکت را دسته‌بندی کن و اولویت ۱ تا ۵ بده"}],
"response_format": {"type": "json_object"}
}'Llama 3.1 8B Instruct برای چه کاری خوب است؟
Llama 3.1 8B Instruct از Meta Llama می‌آید؛ در کد فقط همین رشته را در فیلد model بگذار: «meta-llama/
چه کارهایی از آن برمی‌آید: tool calling دارد، یعنی می‌تواند تابع‌های خودت را با آرگومان درست صدا بزند؛ با response_format خروجی JSON معتبر می‌دهد و مستقیم به کد وصل می‌شود. همهٔ این‌ها با همان پارامترهای استاندارد SDK رسمی OpenAI کار می‌کنند و کد اختصاصی لازم ندارند.
۱۷٬۳۱۱ تومان برای هر ۱M توکن ورودی و ۲۷٬۶۹۸ تومان برای هر ۱M توکن خروجی؛ در دستهٔ «بسیار ارزان» کاتالوگ می‌نشیند و یک درخواست ۱٬۰۰۰ کلمهای ≈ ۵۹ تومان. cache ورودی دارد: توکن‌های تکراری متن ورودی با ۸٬۶۵۵ تومان / ۱M حساب می‌شوند، که برای پرامپت سیستمی بلند تفاوت بزرگی است. شارژ نهایی همیشه بر اساس مصرف واقعی همان درخواست است، نه برآورد، و درخواستی که ناموفق باشد هزینهای ندارد.
نزدیک‌ترین گزینه با همین قابلیت‌ها از تأمین‌کنندهٔ دیگر Ling 3.0 Flash است: Llama 3.1 8B Instruct حدود ۶۰٪ گران‌تر از آن تمام می‌شود و حداکثر طول متنش کمتر است. هر دو با همان کلید و همان کد کار می‌کنند، پس عوض‌کردن‌شان فقط تغییر یک رشته است.
برای اینکه عدد قابل تصور شود: با ۱۰۰ هزار تومان اعتبار، حدود ۱٬۶۹۵ درخواست ۱٬۰۰۰ کلمهای روی Llama 3.1 8B Instruct جا می‌شود، و هر ۱٬۰۰۰ تومان تقریباً ۱۶٬۹۴۹ کلمه رفت‌وبرگشت می‌خرد. اگر پردازشی یک میلیون توکن ورودی و یک میلیون توکن خروجی داشته باشد، کل آن ۴۵٬۰۰۹ تومان می‌شود. پر کردن کامل پنجرهٔ ۱۳۱٬۰۷۲ توکنی این مدل فقط از سمت ورودی ۲٬۲۶۹ تومان هزینه دارد، پس تاریخچهٔ گفتگو را بی‌دلیل بلند نگه ندار.
نزدیک‌ترین هم‌خانوادهٔ این مدل «meta-llama/
Meta Llama در کاتالوگ ما ۸ مدل دارد؛ ارزان‌ترین‌شان Llama 3.1 8B Instruct با ۵۹ تومان و گران‌ترین Llama 3.1 70B Instruct با ۶۴۸ تومان برای هر ۱٬۰۰۰ کلمه. از پارامترهای کم‌تکرار، این مدل logit_bias، logprobs، min_p، presence_penalty، repetition_penalty، top_k را می‌پذیرد — همه از طریق همان بدنهٔ استاندارد درخواست. در عوض include_reasoning، reasoning را که بیشتر مدلها دارند پشتیبانی نمی‌کند، پس اگر کدت به آن‌ها تکیه دارد قبل از جابه‌جایی تست کن. از نظر طول متن نزدیک‌ترین گزینه از تأمین‌کنندهٔ دیگر Aion-2.0 با ۱۳۱٬۰۷۲ توکن است.
کجا انتخاب درستی است: کار پرحجم مثل دسته‌بندی، برچسب‌گذاری و خلاصه‌سازی انبوه، ایجنت‌هایی که به API و دیتابیس وصل می‌شوند، استخراج داده با اسکیمای مشخص.
Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 8B instruct-tuned version is fast and efficient. It has demonstrated strong performance compared to...
سه کار واقعی، با قیمت همین مدل
اعداد از همان قیمت‌های بالا حساب شده‌اند و با تغییر قیمت مدل تغییر می‌کنند.
| کار | توکن | هزینه |
|---|---|---|
| یک نوبت گفتگو با تاریخچهٔ متوسط | ۱٬۵۰۰ ورودی + ۴۰۰ خروجی | ۳۷ تومان |
| خلاصه‌کردن سند ده‌صفحه‌ای | ۴٬۰۰۰ ورودی + ۶۰۰ خروجی | ۸۶ تومان |
| دسته‌بندی هزار ردیف کوتاه | ۱۲۰٬۰۰۰ ورودی + ۲۰٬۰۰۰ خروجی | ۲٬۶۳۱ تومان |
تاریخچهٔ قیمت
| تاریخ | ورودی (تومان/۱M) | خروجی (تومان/۱M) |
|---|---|---|
| ۶ آبان ۱۴۰۵ | ۱۷٬۳۱۱ | ۲۷٬۶۹۸ |
| ۶ آبان ۱۴۰۵ | ۶٬۹۲۴ | ۱۳٬۸۴۹ |
| ۱۶ شهریور ۱۴۰۵ | ۱۷٬۳۱۱ | ۲۷٬۶۹۸ |
هر تغییر قیمت این مدل ثبت می‌شود؛ ستون تومان با قیمت امروز محاسبه شده است.
سؤال‌های پرتکرار
- چطور با Llama 3.1 8B Instruct در ایران کار کنم؟
- در یوتاپن ثبتنام کن، کیف پول را تومانی شارژ کن، کلید API بساز و در SDK رسمی OpenAI فقط base_url را به https:/
/ api.uttapen.ir/ v1 و model را به «meta-llama/ llama-3.1-8b-instruct» تغییر بده. بقیهٔ کدت دستنخورده میماند. - قیمت Llama 3.1 8B Instruct به تومان چقدر است؟
- هر ۱ میلیون توکن ورودی ۱۷٬۳۱۱ تومان و هر ۱ میلیون توکن خروجی ۲۷٬۶۹۸ تومان؛ یک درخواست ۱٬۰۰۰ کلمهای تقریباً ۵۹ تومان. شارژ بر اساس مصرف واقعی همان درخواست است و درخواست ناموفق هزینهای ندارد.
- Llama 3.1 8B Instruct چند توکن ورودی میگیرد؟
- تا ۱۳۱٬۰۷۲ توکن در هر درخواست؛ برای متن فارسی حدود ۹۸ هزار کلمه. حداکثر طول پاسخ هم ۱۱۷٬۹۶۴ توکن است.
- آیا Llama 3.1 8B Instruct استریم و tool calling را پشتیبانی میکند؟
- استریم (stream=true) روی همهٔ مدلها فعال است. این مدل tool calling را با همان قالب OpenAI پشتیبانی میکند. خروجی ساختیافته با response_format هم کار میکند.