Описание проекта
Сервис должен поддерживать личные кабинеты с регистрацией, авторизацией, сохранённой историей всех генераций и папками для черновиков. Мы планируем подписочную модель, поэтому лимиты и квоты по тарифам обязательны: счётчики токенов или слов, месячные пороги и аккуратная обработка ситуации, когда лимит исчерпан. Привязка биллинга, повышение тарифа и понятная панель расхода лимитов должны войти уже в первый релиз. Промпт-инжиниринг живёт на бэкенде: каждый шаблон соответствует выверенной инструкции, а поставщика модели можно сменить, не трогая интерфейс.
Технически ждём современный стек, чистый REST или потоковый обмен между фронтендом и нашим сервером, очередь для долгих запросов и кэширование, чтобы держать стоимость модели под контролем. Для нас важны задержка ответа, модерация сгенерированного текста и защита от prompt injection и злоупотреблений. Предложите архитектуру, ориентировочные сроки и смету, расскажите о похожих проектах и о том, как вы сделаете ежемесячный счёт за языковую модель предсказуемым.
— Библиотека шаблонов с настройкой тона, длины и языка
— Кабинеты, история генераций, папки и экспорт
— Квоты по тарифам, счётчики и привязка биллинга
— Потоковые ответы, кэш и защита от злоупотреблений