استریم متن با ورودی در NodeJS با هوش مصنوعی
تولید متن گاهی ممکن است زمانبر باشد، مخصوصاً زمانی که پاسخ طولانی است. در چنین مواردی، استریم chat completion بهصورت بلادرنگ به سمت کلاینت بسیار مفید است. این کار به کلاینت اجازه میدهد که پیام جدید را همزمان با تولید آن توسط LLM نمایش دهد، بهجای اینکه کاربران منتظر بمانند تا پاسخ بهطور کامل تولید شده و سپس نمایش داده شود.
یک فایل به نام main.js در پوشه پروژه خود ایجاد کنید و کد زیر را در آن قرار دهید:
کپی
متغیرهای محیطی BASE_URL و LIARA_API_KEY همان baseUrl سرویس هوش مصنوعی لیارا و کلید API لیارا هستند که باید در بخش متغیرهای محیطی برنامه خود، آنها را تنظیم کنید.
پروژه فوق را میتوانید بهصورت کامل در گیتهاب لیارا، مشاهده کنید.