gryphe MythoMax 13B vs Meta Llama 3.1 8B Instruct

خلاصه مقایسه

• Llama 3.1 8B Instruct با نسبت معمول ۳ توکن ورودی به ازای هر توکن خروجی، 1.5 برابر ارزان‌تر است.
• Llama 3.1 8B Instruct از پرامپت‌های طولانی‌تری پشتیبانی می‌کند: 131K در برابر 8K توکن.
• توکن خروجی Llama 3.1 8B Instruct از طریق DeepInfra به ازای هر 1M توکن $0.04 هزینه دارد، در مقایسه با قیمت پایه $0.08.
• Llama 3.1 8B Instruct مدل جدیدتری است (تاریخ عرضه: 2024-07-23).

محاسبه‌گر هزینه

با این حجم مصرف، Llama 3.1 8B Instruct ماهانه $2.25 صرفه‌جویی می‌کند.

بر اساس قیمت‌های پایه هر 1M توکن؛ تخفیف‌های کش پرامپت و حالت دسته‌ای لحاظ نشده است.