ساخت کلید API

قیمت و API مدل Llama 3.3 70B Instruct در ایران

meta-llama/llama-3.3-70b-instruct

فراخوانی ابزارخروجی JSON
ساخت کلیدامتحان کن
ورودی · هر ۱M توکن
۶۹٬۲۴۴ تومان
خروجی · هر ۱M توکن
۱۸۰٬۰۳۴ تومان
یک درخواست ۱٬۰۰۰ کلمه‌ای ≈
۳۲۴ تومان

شارژ بر اساس مصرف واقعی همان درخواست. قیمت‌ها با تغییر شرایط بازار به‌روز می‌شوند. ورودی کش‌شده: ۳۴٬۶۲۲ تومان به‌ازای هر ۱M توکن.قیمت‌ها و شارژ

کد آمادهٔ Llama 3.3 70B Instruct: فراخوانی ابزار (tool calling)

نمونه بر اساس قابلیت‌های همین مدل انتخاب شده و با کلید خودت بدون تغییر دیگری اجرا می‌شود.

from openai import OpenAI
import json

client = OpenAI(base_url="https://api.uttapen.ir/v1", api_key="sk-up-…")

tools = [{
    "type": "function",
    "function": {
        "name": "check_stock",
        "description": "موجودی یک محصول را برمی‌گرداند",
        "parameters": {
            "type": "object",
            "properties": {"sku": {"type": "string"}},
            "required": ["sku"],
        },
    },
}]

messages = [{"role": "user", "content": "از کفش نایک مدل NK-42 چند تا موجوده"}]
first = client.chat.completions.create(model="meta-llama/llama-3.3-70b-instruct", messages=messages, tools=tools)
call = first.choices[0].message.tool_calls[0]

# you run the function yourself — the model never touches the database
args = json.loads(call.function.arguments)
result = {"sku": args["sku"], "qty": 7}

messages += [first.choices[0].message, {"role": "tool", "tool_call_id": call.id, "content": json.dumps(result)}]
final = client.chat.completions.create(model="meta-llama/llama-3.3-70b-instruct", messages=messages, tools=tools)
print(final.choices[0].message.content)
import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.uttapen.ir/v1", apiKey: "sk-up-…" });

const tools = [{
  type: "function",
  function: {
    name: "check_stock",
    description: "موجودی یک محصول را برمی‌گرداند",
    parameters: { type: "object", properties: { sku: { type: "string" } }, required: ["sku"] },
  },
}];

const messages = [{ role: "user", content: "از کفش نایک مدل NK-42 چند تا موجوده" }];
const first = await client.chat.completions.create({ model: "meta-llama/llama-3.3-70b-instruct", messages, tools });
const call = first.choices[0].message.tool_calls[0];

const args = JSON.parse(call.function.arguments);
const result = { sku: args.sku, qty: 7 };

messages.push(first.choices[0].message, { role: "tool", tool_call_id: call.id, content: JSON.stringify(result) });
const final = await client.chat.completions.create({ model: "meta-llama/llama-3.3-70b-instruct", messages, tools });
console.log(final.choices[0].message.content);
curl https://api.uttapen.ir/v1/chat/completions \
  -H "Authorization: Bearer sk-up-…" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/llama-3.3-70b-instruct",
    "messages": [{"role": "user", "content": "از کفش نایک مدل NK-42 چند تا موجوده"}],
    "tools": [{
      "type": "function",
      "function": {
        "name": "check_stock",
        "parameters": {"type": "object", "properties": {"sku": {"type": "string"}}, "required": ["sku"]}
      }
    }]
  }'

Llama 3.3 70B Instruct برای چه کاری خوب است؟

Llama 3.3 70B Instruct یکی از مدل‌های Meta Llama است و در یوتاپن با شناسهٔ «meta-llama/llama-3.3-70b-instruct» صدا زده می‌شود. در هر فراخوانی تا ۱۳۱٬۰۷۲ توکن ورودی می‌پذیرد؛ برای متن فارسی این تقریباً ۳۲۸ صفحهٔ A4 است، پس چند فایل یا یک سند بلند را می‌شود یک‌جا داد. حداکثر طول پاسخ در هر فراخوانی ۱۲۸٬۰۰۰ توکن است. از نظر قیمت در دستهٔ «بسیار ارزان» است — ارزان‌تر از ۲۹۸ مدل و گران‌تر از ۹۹ مدل پولی دیگر کاتالوگ.

چه کارهایی از آن برمی‌آید: tool calling دارد، یعنی می‌تواند تابع‌های خودت را با آرگومان درست صدا بزند؛ با response_format خروجی JSON معتبر می‌دهد و مستقیم به کد وصل می‌شود. همهٔ این‌ها با همان پارامترهای استاندارد SDK رسمی OpenAI کار می‌کنند و کد اختصاصی لازم ندارند.

برای برآورد سرانگشتی: هر ۱٬۰۰۰ کلمه رفت‌وبرگشت با این مدل حدود ۳۲۴ تومان است (۶۹٬۲۴۴ تومان ورودی و ۱۸۰٬۰۳۴ تومان خروجی به‌ازای ۱M توکن). cache ورودی دارد: توکن‌های تکراری متن ورودی با ۳۴٬۶۲۲ تومان / ۱M حساب می‌شوند، که برای پرامپت سیستمی بلند تفاوت بزرگی است. شارژ نهایی همیشه بر اساس مصرف واقعی همان درخواست است، نه برآورد، و درخواستی که ناموفق باشد هزینه‌ای ندارد.

نزدیک‌ترین گزینه با همین قابلیت‌ها از تأمین‌کنندهٔ دیگر Hy3 است: Llama 3.3 70B Instruct حدود ۱۰٪ گران‌تر از آن تمام می‌شود و حداکثر طول متنش کمتر است. هر دو با همان کلید و همان کد کار می‌کنند، پس عوض‌کردن‌شان فقط تغییر یک رشته است.

برای اینکه عدد قابل تصور شود: با ۱۰۰ هزار تومان اعتبار، حدود ۳۰۹ درخواست ۱٬۰۰۰ کلمه‌ای روی Llama 3.3 70B Instruct جا می‌شود، و هر ۱٬۰۰۰ تومان تقریباً ۳٬۰۸۶ کلمه رفت‌وبرگشت می‌خرد. اگر پردازشی یک میلیون توکن ورودی و یک میلیون توکن خروجی داشته باشد، کل آن ۲۴۹٬۲۷۸ تومان می‌شود. پر کردن کامل پنجرهٔ ۱۳۱٬۰۷۲ توکنی این مدل فقط از سمت ورودی ۹٬۰۷۶ تومان هزینه دارد، پس تاریخچهٔ گفتگو را بی‌دلیل بلند نگه ندار.

نزدیک‌ترین هم‌خانوادهٔ این مدل «meta-llama/llama-3.1-8b-instruct» است و انتخاب بین این دو همان جایی است که بیشتر آدم‌ها گیر می‌کنند. روی یک درخواست ۱٬۰۰۰ کلمه‌ای، این نسخه حدود ۵٫۵ برابر گران‌تر از آن درمی‌آید (۳۲۴ در برابر ۵۹ تومان). حداکثر طول پاسخ هم فرق دارد: ۱۲۸٬۰۰۰ در برابر ۱۱۷٬۹۶۴ توکن.

Meta Llama در کاتالوگ ما ۸ مدل دارد؛ ارزان‌ترین‌شان Llama 3.1 8B Instruct با ۵۹ تومان و گران‌ترین Llama 3.1 70B Instruct با ۶۴۸ تومان برای هر ۱٬۰۰۰ کلمه. از پارامترهای کم‌تکرار، این مدل logit_bias، logprobs، min_p، presence_penalty، repetition_penalty، top_k را می‌پذیرد — همه از طریق همان بدنهٔ استاندارد درخواست. در عوض include_reasoning، reasoning را که بیشتر مدل‌ها دارند پشتیبانی نمی‌کند، پس اگر کدت به آن‌ها تکیه دارد قبل از جابه‌جایی تست کن. از نظر طول متن نزدیک‌ترین گزینه از تأمین‌کنندهٔ دیگر Aion-2.0 با ۱۳۱٬۰۷۲ توکن است.

کجا انتخاب درستی است: کار پرحجم مثل دسته‌بندی، برچسب‌گذاری و خلاصه‌سازی انبوه، ایجنت‌هایی که به API و دیتابیس وصل می‌شوند، استخراج داده با اسکیمای مشخص.

توضیح رسمی تأمین‌کننده (انگلیسی)

The Meta Llama 3.3 multilingual large language model (LLM) is a pretrained and instruction tuned generative model in 70B (text in/text out). The Llama 3.3 instruction tuned text only model...

سه کار واقعی، با قیمت همین مدل

اعداد از همان قیمت‌های بالا حساب شده‌اند و با تغییر قیمت مدل تغییر می‌کنند.

کارتوکنهزینه
یک نوبت گفتگو با تاریخچهٔ متوسط۱٬۵۰۰ ورودی + ۴۰۰ خروجی۱۷۶ تومان
خلاصه‌کردن سند ده‌صفحه‌ای۴٬۰۰۰ ورودی + ۶۰۰ خروجی۳۸۵ تومان
دسته‌بندی هزار ردیف کوتاه۱۲۰٬۰۰۰ ورودی + ۲۰٬۰۰۰ خروجی۱۱٬۹۱۰ تومان

تاریخچهٔ قیمت

تاریخورودی (تومان/۱M)خروجی (تومان/۱M)
۱۴ آبان ۱۴۰۵۶۹٬۲۴۴۱۸۰٬۰۳۴
۲۴ مهر ۱۴۰۵۳۴٬۶۲۲۱۱۰٬۷۹۰
۲۱ مهر ۱۴۰۵۲۰۴٬۲۶۹۲۷۳٬۵۱۳
۱۷ مهر ۱۴۰۵۷۶٬۱۶۸۱۷۳٬۱۱۰
۱۶ مهر ۱۴۰۵۳۴٬۶۲۲۱۱۰٬۷۹۰
۱۳ مهر ۱۴۰۵۷۶٬۱۶۸۱۷۳٬۱۱۰
۱۳ مهر ۱۴۰۵۳۴٬۶۲۲۱۱۰٬۷۹۰
۱۲ مهر ۱۴۰۵۷۶٬۱۶۸۱۷۳٬۱۱۰
۱۶ شهریور ۱۴۰۵۳۴٬۶۲۲۱۱۰٬۷۹۰

هر تغییر قیمت این مدل ثبت می‌شود؛ ستون تومان با قیمت امروز محاسبه شده است.

سؤال‌های پرتکرار

چطور با Llama 3.3 70B Instruct در ایران کار کنم؟
در یوتاپن ثبت‌نام کن، کیف پول را تومانی شارژ کن، کلید API بساز و در SDK رسمی OpenAI فقط base_url را به https://api.uttapen.ir/v1 و model را به «meta-llama/llama-3.3-70b-instruct» تغییر بده. بقیهٔ کدت دست‌نخورده می‌ماند.
قیمت Llama 3.3 70B Instruct به تومان چقدر است؟
هر ۱ میلیون توکن ورودی ۶۹٬۲۴۴ تومان و هر ۱ میلیون توکن خروجی ۱۸۰٬۰۳۴ تومان؛ یک درخواست ۱٬۰۰۰ کلمه‌ای تقریباً ۳۲۴ تومان. شارژ بر اساس مصرف واقعی همان درخواست است و درخواست ناموفق هزینه‌ای ندارد.
Llama 3.3 70B Instruct چند توکن ورودی می‌گیرد؟
تا ۱۳۱٬۰۷۲ توکن در هر درخواست؛ برای متن فارسی حدود ۹۸ هزار کلمه. حداکثر طول پاسخ هم ۱۲۸٬۰۰۰ توکن است.
آیا Llama 3.3 70B Instruct استریم و tool calling را پشتیبانی می‌کند؟
استریم (stream=true) روی همهٔ مدل‌ها فعال است. این مدل tool calling را با همان قالب OpenAI پشتیبانی می‌کند. خروجی ساخت‌یافته با response_format هم کار می‌کند.