Cómo conecto un LLM a Node.js y qué me niego a lanzar

Un LLM no es un producto. Es un paso dentro de una acción que ya te pertenece: clasificar un ticket, extraer un campo, redactar una respuesta o recuperar el párrafo que un gerente de hotel necesita en el móvil. Si no puedes nombrar esa acción sin decir «chat», no tienes una función de IA: tienes una demo con factura mensual.

En Node.js trato el modelo como E/S remota, igual que Stripe o S3. NestJS o Express se ocupa de la ruta. Una cola gestiona la espera. Zod o un esquema JSON define la forma de la respuesta. Los timeouts, reintentos, límites de tokens y un log que puedas abrir a las dos de la madrugada no son extras: son parte del trabajo. Enviar una experiencia basada en “vibes” al navegador con la clave en NEXT_PUBLIC_ no es una integración.

En un servicio TypeScript, los patrones que merecen la pena son salidas estructuradas que puedas guardar, herramientas limitadas a tus propias API y RAG sobre un corpus que realmente controles, no «todo Postgres». OpenAI y Anthropic son proveedores. El contrato es tuyo: entrada, lista de herramientas, máximo de tokens y qué ocurre cuando el modelo tarda o se equivoca. No dejaré que el modelo invente una escritura que yo no implementaría a mano.

Antes de los primeros usuarios, rechazo un asistente sin límites sobre todas las tablas, un chatbot en la landing page para añadir una palabra de moda a la presentación y un prompt que se haya convertido en una política sin probar. Eso oculta costes y responsabilidades. Si la primera versión no puede fallar de forma segura —mostrar un borrador, pedir aprobación humana y no escribir nada—, no está lista para gestionar dinero ni datos personales (PII).

Si me envías un brief, indica la acción, los datos que ya tienes y quién puede confirmar la escritura. Te responderé con el trabajo mínimo en Node.js que lanzaría: una ruta, un esquema, una llamada al modelo y una lista breve de lo que todavía no expondría al modelo. Esa lista es la estimación.