لاگ‌های سرویس AI
بخش لاگ‌های یک سرویس هوش مصنوعی در لیارا، شامل تمامی درخواست‌هایی است که در بازه مشخص تعیین‌شده (با توجه به پلن)، به LLMها ارسال شده است. این درخواست‌ها، شامل اطلاعات زیر است:
- زمان: زمانی که درخواست به LLM ارسال شده است
- وضعیت: موفق بودن یا نبودن درخواست ارسالی
- ارائه‌دهنده/مدل: اسم مدل (LLM) و ارائه‌دهنده‌اش، که درخواست به آن، ارسال شده است
- توکن‌ها: تعداد توکن‌هایی که برای ورودی دادن به مدل و برای خروجی گرفتن از آن، مصرف شده است
- هزینه: هزینه تمام شده درخواست ارسال شده به LLM
- سرعت: نسبت توکن تولید شده توسط مدل به کل زمان تولید، هرچقدر بیشتر، یعنی سریع‌تر
- دلیل پایان: دلیل توقف مدل در تولید توکن (stop یعنی که مدل جوابش درست و کامل ارسال شده است)
امکان فیلتر کردن لاگ‌ها بر اساس مدل مورد استفاده و زمان ارسال درخواست نیز وجود دارد:
شما می‌توانید برای کسب اطلاعات بیشتر در مورد یک درخواست ارسال‌شده به LLM، بر روی درخواست، کلیک کنید:
برای مشاهده تمامی جزئیات درخواست ارسال‌شده، کافیست تا پس از کلیک بر روی درخواست، بر روی گزینه مشاهده‌ی تمام جزییات، کلیک کنید:
