Come collego un LLM a Node.js e cosa mi rifiuto di rilasciare

Un LLM non è un prodotto. È un passaggio dietro un’azione di cui hai già la responsabilità: classificare un ticket, estrarre un campo, preparare una risposta o recuperare il paragrafo che serve al responsabile di un hotel sul telefono. Se non sai nominare quell’azione senza dire «chat», non hai una funzionalità AI: hai una demo con una fattura mensile.

In Node.js tratto il modello come I/O remoto, proprio come Stripe o S3. NestJS o Express gestisce la route. Una coda gestisce l’attesa. Zod o uno schema JSON definisce la forma della risposta. Timeout, retry, limiti di token e un log consultabile alle due di notte non sono optional: fanno parte del lavoro. Trasmettere “vibes” al browser con la chiave in NEXT_PUBLIC_ non è un’integrazione.

In un servizio TypeScript, i pattern che valgono il loro costo sono output strutturati che si possono salvare, strumenti limitati alle proprie API e RAG su un corpus davvero sotto il tuo controllo, non «tutto Postgres». OpenAI e Anthropic sono fornitori. Il contratto è tuo: input, elenco degli strumenti, limite massimo di token e comportamento quando il modello è lento o sbaglia. Non permetterò al modello di inventare una scrittura che non implementerei personalmente.

Prima dei primi utenti rifiuto un assistente senza limiti su tutte le tabelle, un chatbot nella landing page per inserire una parola di moda nella presentazione e un prompt diventato una policy mai testata. Queste cose nascondono costi e responsabilità. Se la prima versione non può fallire in sicurezza — mostrare una bozza, chiedere a una persona, non scrivere nulla — non è pronta a gestire denaro o dati personali (PII).

Se mi mandi un brief, indica l’azione, i dati già disponibili e chi può confermare la scrittura. Ti proporrò il job Node.js più piccolo che rilascerei: una route, uno schema, una chiamata al modello e un breve elenco di ciò che per ora non esporrei al modello. Quell’elenco è la stima.