Sviluppo di un generatore di contenuti SaaS su LLM: modelli, editor, limiti

Stiamo lanciando un prodotto AI di nicchia per la scrittura di testi e stiamo cercando un team esperto per costruire un'applicazione web per la generazione di contenuti da zero. La logica è semplice: l'utente inserisce un argomento o un breve brief, seleziona un modello e ottiene testi di marketing pronti generati utilizzando un grande modello linguistico tramite la sua API. Abbiamo bisogno di un editor veloce e affidabile dove il risultato possa essere affinato, rigenerato ed esportato, oltre a una libreria di modelli per landing page, descrizioni di prodotti, campagne email, post sui social media e titoli pubblicitari. Ogni utente dovrebbe essere in grado di regolare il tono e la lunghezza del testo, e le bozze dovrebbero essere facili da salvare e riaprire. Il servizio deve supportare account personali con registrazione, autorizzazione, cronologia salvata di tutte le generazioni e cartelle per le bozze. Prevediamo un modello di abbonamento, quindi limiti e quote per livello sono obbligatori: contatori di token o parole, soglie mensili e gestione chiara della situazione quando il limite viene superato. L'integrazione della fatturazione, gli aggiornamenti dei piani e un chiaro pannello di spesa dovrebbero essere nella prima versione. L'ingegneria dei prompt vive sul backend: ogni modello corrisponde a un'istruzione verificata e il fornitore del modello può essere cambiato senza toccare l'interfaccia. Tecnicamente, ci aspettiamo uno stack moderno, uno scambio REST pulito o in streaming tra il frontend e il nostro server, una coda per richieste lunghe e caching per mantenere i costi del modello sotto controllo. Per noi, la latenza, la moderazione del testo generato e la protezione contro l'iniezione di prompt e gli abusi sono importanti. Proponi un'architettura, tempistiche e costi stimati, parlaci di progetti simili e spiega come renderai prevedibile la fattura mensile del modello linguistico. — Libreria di modelli con personalizzazione di tono, lunghezza e lingua — Account, cronologia delle generazioni, cartelle ed esportazione — Quote per livello, contatori e integrazione della fatturazione — Risposte in streaming, caching e protezione contro gli abusi