قیمت و API مدل Llama 3.1 70B Instruct در ایران
meta-llama/llama-3.1-70b-instruct
شارژ بر اساس مصرف واقعی همان درخواست. قیمت‌ها با تغییر شرایط بازار به‌روز میشوند.قیمت‌ها و شارژ
کد آمادهٔ Llama 3.1 70B Instruct: ترجمهٔ فارسی به انگلیسی
نمونه بر اساس قابلیت‌های همین مدل انتخاب شده و با کلید خودت بدون تغییر دیگری اجرا می‌شود.
from openai import OpenAI
client = OpenAI(base_url="https://api.uttapen.ir/v1", api_key="sk-up-…")
stream = client.chat.completions.create(
model="meta-llama/llama-3.1-70b-instruct",
messages=[{"role": "user", "content": "این جمله را به انگلیسی روان ترجمه کن: «سفارش شما ثبت شد و تا ۴۸ ساعت آینده ارسال می‌شود.»"}],
stream=True,
)
for chunk in stream:
print(chunk.choices[0].delta.content or "", end="", flush=True)import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.uttapen.ir/v1", apiKey: "sk-up-…" });
const stream = await client.chat.completions.create({
model: "meta-llama/llama-3.1-70b-instruct",
messages: [{ role: "user", content: "این جمله را به انگلیسی روان ترجمه کن: «سفارش شما ثبت شد و تا ۴۸ ساعت آینده ارسال می‌شود.»" }],
stream: true,
});
for await (const chunk of stream) process.stdout.write(chunk.choices[0]?.delta?.content ?? "");curl https://api.uttapen.ir/v1/chat/completions \
-H "Authorization: Bearer sk-up-…" \
-H "Content-Type: application/json" \
-d '{
"model": "meta-llama/llama-3.1-70b-instruct",
"messages": [{"role": "user", "content": "این جمله را به انگلیسی روان ترجمه کن: «سفارش شما ثبت شد و تا ۴۸ ساعت آینده ارسال می‌شود.»"}],
"stream": true
}'Llama 3.1 70B Instruct برای چه کاری خوب است؟
شناسهٔ Llama 3.1 70B Instruct در API ما «meta-llama/
Llama 3.1 70B Instruct فقط متن میگیرد و متن می‌دهد: نه tool calling، نه ورودی تصویر. برای گفتگو، بازنویسی، ترجمه و خلاصه‌سازی همین کافی است و سبک‌تر هم تمام می‌شود.
هر ۱ میلیون توکن ورودی ۲۴۹٬۲۷۸ تومان و هر ۱ میلیون توکن خروجی ۲۴۹٬۲۷۸ تومان است؛ خروجی ۱ برابر ورودی قیمت دارد، پس کوتاه‌کردن پاسخ بیشتر از کوتاه‌کردن پرامپت صرفه دارد. شارژ نهایی همیشه بر اساس مصرف واقعی همان درخواست است، نه برآورد، و درخواستی که ناموفق باشد هزینهای ندارد.
نزدیک‌ترین گزینه با همین قابلیت‌ها از تأمین‌کنندهٔ دیگر Weaver (alpha) است: Llama 3.1 70B Instruct حدود ۳۰٪ گران‌تر از آن تمام می‌شود و حداکثر طول متنش بیشتر است. هر دو با همان کلید و همان کد کار می‌کنند، پس عوض‌کردن‌شان فقط تغییر یک رشته است.
برای اینکه عدد قابل تصور شود: با ۱۰۰ هزار تومان اعتبار، حدود ۱۵۴ درخواست ۱٬۰۰۰ کلمهای روی Llama 3.1 70B Instruct جا می‌شود، و هر ۱٬۰۰۰ تومان تقریباً ۱٬۵۴۳ کلمه رفت‌وبرگشت می‌خرد. اگر پردازشی یک میلیون توکن ورودی و یک میلیون توکن خروجی داشته باشد، کل آن ۴۹۸٬۵۵۶ تومان می‌شود. پر کردن کامل پنجرهٔ ۱۳۱٬۰۷۲ توکنی این مدل فقط از سمت ورودی ۳۲٬۶۷۳ تومان هزینه دارد، پس تاریخچهٔ گفتگو را بی‌دلیل بلند نگه ندار.
نزدیک‌ترین هم‌خانوادهٔ این مدل «meta-llama/
Meta Llama در کاتالوگ ما ۸ مدل دارد؛ ارزان‌ترین‌شان Llama 3.1 8B Instruct با ۵۹ تومان و گران‌ترین Llama 3.1 70B Instruct با ۶۴۸ تومان برای هر ۱٬۰۰۰ کلمه. از پارامترهای کم‌تکرار، این مدل top_k را می‌پذیرد — همه از طریق همان بدنهٔ استاندارد درخواست. در عوض include_reasoning، reasoning، response_format، tool_choice را که بیشتر مدل‌ها دارند پشتیبانی نمی‌کند، پس اگر کدت به آنها تکیه دارد قبل از جابه‌جایی تست کن. از نظر طول متن نزدیک‌ترین گزینه از تأمین‌کنندهٔ دیگر Aion-2.0 با ۱۳۱٬۰۷۲ توکن است.
بهترین جای استفاده‌اش: کار پرحجم مثل دسته‌بندی، برچسب‌گذاری و خلاصه‌سازی انبوه.
Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 70B instruct-tuned version is optimized for high quality dialogue usecases. It has demonstrated strong...
سه کار واقعی، با قیمت همین مدل
اعداد از همان قیمت‌های بالا حساب شده‌اند و با تغییر قیمت مدل تغییر می‌کنند.
| کار | توکن | هزینه |
|---|---|---|
| یک نوبت گفتگو با تاریخچهٔ متوسط | ۱٬۵۰۰ ورودی + ۴۰۰ خروجی | ۴۷۴ تومان |
| خلاصه‌کردن سند ده‌صفحه‌ای | ۴٬۰۰۰ ورودی + ۶۰۰ خروجی | ۱٬۱۴۷ تومان |
| دسته‌بندی هزار ردیف کوتاه | ۱۲۰٬۰۰۰ ورودی + ۲۰٬۰۰۰ خروجی | ۳۴٬۸۹۹ تومان |
تاریخچهٔ قیمت
| تاریخ | ورودی (تومان/۱M) | خروجی (تومان/۱M) |
|---|---|---|
| ۱۳ آبان ۱۴۰۵ | ۲۴۹٬۲۷۸ | ۲۴۹٬۲۷۸ |
| ۳۰ شهریور ۱۴۰۵ | ۱۳۸٬۴۸۸ | ۱۳۸٬۴۸۸ |
| ۳۰ شهریور ۱۴۰۵ | ۲۴۹٬۲۷۸ | ۲۴۹٬۲۷۸ |
| ۲۱ شهریور ۱۴۰۵ | ۱۳۸٬۴۸۸ | ۱۳۸٬۴۸۸ |
| ۲۱ شهریور ۱۴۰۵ | ۲۴۹٬۲۷۸ | ۲۴۹٬۲۷۸ |
| ۲۰ شهریور ۱۴۰۵ | ۱۳۸٬۴۸۸ | ۱۳۸٬۴۸۸ |
| ۲۰ شهریور ۱۴۰۵ | ۲۴۹٬۲۷۸ | ۲۴۹٬۲۷۸ |
| ۱۶ شهریور ۱۴۰۵ | ۱۳۸٬۴۸۸ | ۱۳۸٬۴۸۸ |
هر تغییر قیمت این مدل ثبت می‌شود؛ ستون تومان با قیمت امروز محاسبه شده است.
سؤال‌های پرتکرار
- چطور با Llama 3.1 70B Instruct در ایران کار کنم؟
- در یوتاپن ثبتنام کن، کیف پول را تومانی شارژ کن، کلید API بساز و در SDK رسمی OpenAI فقط base_url را به https:/
/ api.uttapen.ir/ v1 و model را به «meta-llama/ llama-3.1-70b-instruct» تغییر بده. بقیهٔ کدت دستنخورده میماند. - قیمت Llama 3.1 70B Instruct به تومان چقدر است؟
- هر ۱ میلیون توکن ورودی ۲۴۹٬۲۷۸ تومان و هر ۱ میلیون توکن خروجی ۲۴۹٬۲۷۸ تومان؛ یک درخواست ۱٬۰۰۰ کلمهای تقریباً ۶۴۸ تومان. شارژ بر اساس مصرف واقعی همان درخواست است و درخواست ناموفق هزینهای ندارد.
- Llama 3.1 70B Instruct چند توکن ورودی میگیرد؟
- تا ۱۳۱٬۰۷۲ توکن در هر درخواست؛ برای متن فارسی حدود ۹۸ هزار کلمه. حداکثر طول پاسخ هم ۸٬۱۹۲ توکن است.
- آیا پاسخ Llama 3.1 70B Instruct را میتوانم استریم کنم؟
- بله، با stream=true رویدادهای SSE را همانطور که تولید میشوند میگیری. این مدل tool calling و ورودی تصویر ندارد، پس اگر به آنها نیاز داری مدل دیگری انتخاب کن.