Опис проєкту
ПерекладСервіс має підтримувати особисті кабінети з реєстрацією, авторизацією, збереженою історією всіх генерацій та папками для чорновиків. Ми плануємо підписну модель, тому ліміти й квоти за тарифами обов'язкові: лічильники токенів або слів, місячні порогові значення та акуратна обробка ситуації, коли ліміт вичерпаний. Прив'язка біллінгу, підвищення тарифу й зрозуміла панель витрати лімітів мають увійти вже в перший релізу. Промпт-інжиніринг живе на бекенді: кожен шаблон відповідає перевіреній інструкції, а постачальника моделі можна змінити, не чіпаючи інтерфейс.
Технічно чекаємо сучасний стек, чистий REST або потоковий обмін між фронтендом і нашим сервером, чергу для довгих запитів і кешування, щоб тримати вартість моделі під контролем. Для нас важливі затримка відповіді, модерація згенерованого тексту й захист від prompt injection і зловживань. Запропонуйте архітектуру, ориєнтовні терміни й кошторис, розкажіть про схожі проекти і про те, як ви зробите щомісячний рахунок за мовну модель передбачуваним.
— Бібліотека шаблонів із налаштуванням тону, довжини й мови
— Кабінети, історія генерацій, папки й експорт
— Квоти за тарифами, лічильники й прив'язка біллінгу
— Потокові відповіді, кеш й захист від зловживань