Jak podłączam LLM do Node.js — i czego odmawiam się wdrażać

LLM nie jest produktem. To krok obsługujący działanie, za które już odpowiadasz: klasyfikację zgłoszenia, wyodrębnienie pola, przygotowanie odpowiedzi albo znalezienie akapitu potrzebnego menedżerowi hotelu w telefonie. Jeśli nie umiesz nazwać tego działania bez słowa „czat”, nie masz funkcji AI — masz demo z comiesięczną fakturą.

W Node.js traktuję model jak zdalne wejście-wyjście, tak samo jak Stripe czy S3. NestJS albo Express odpowiada za trasę. Kolejka za oczekiwanie. Zod lub schemat JSON określa kształt odpowiedzi. Limity czasu, ponowienia, limity tokenów i log, który można otworzyć o drugiej w nocy, nie są dodatkami — należą do pracy. Strumieniowanie „vibe’u” do przeglądarki z kluczem w NEXT_PUBLIC_ nie jest integracją.

W usłudze TypeScript sprawdzają się ustrukturyzowane wyniki, które można zapisać, narzędzia ograniczone do własnych API i RAG na korpusie, nad którym naprawdę masz kontrolę — nie „całym Postgresie”. OpenAI i Anthropic to dostawcy. Kontrakt należy do ciebie: wejście, lista narzędzi, maksymalna liczba tokenów i zachowanie, gdy model działa wolno lub się myli. Nie pozwolę modelowi wymyślić zapisu, którego sam nie zakodowałbym ręcznie.

Przed pierwszymi użytkownikami odmawiam asystenta bez ograniczeń nad wszystkimi tabelami, chatbota na landing page’u dla modnego hasła w prezentacji oraz promptu, który urósł do nieprzetestowanej polityki. To ukrywa koszty i odpowiedzialność. Jeśli pierwsza wersja nie umie bezpiecznie przerwać działania — pokazać szkicu, zapytać człowieka i niczego nie zapisać — nie jest gotowa na pieniądze ani dane osobowe (PII).

Jeśli wysyłasz mi brief, opisz działanie, dostępne już dane i osobę uprawnioną do zatwierdzenia zapisu. Zaproponuję najmniejsze zadanie Node.js, które wdrożyłbym produkcyjnie: jedną trasę, jeden schemat, jedno wywołanie modelu i krótką listę tego, czego jeszcze bym mu nie udostępniał. Ta lista jest wyceną.