Bir LLM’i Node.js’e nasıl bağlarım ve neleri yayımlamayı reddederim?

LLM bir ürün değildir. Zaten sizin sorumluluğunuzdaki bir eylemin arkasında çalışan bir adımdır: destek talebini sınıflandırmak, alan çıkarmak, yanıt taslağı hazırlamak ya da otel müdürünün telefonunda ihtiyaç duyduğu paragrafı bulmak. Bu eylemi “sohbet” demeden tanımlayamıyorsanız, bir AI özelliğiniz yoktur; aylık faturası olan bir demonuz vardır.

Node.js’te modeli Stripe veya S3 gibi uzak G/Ç olarak ele alırım. Route’tan NestJS veya Express sorumludur. Beklemeyi kuyruk yönetir. Yanıtın biçimini Zod veya JSON şeması belirler. Timeout’lar, yeniden denemeler, token sınırları ve gece ikide açabileceğiniz log’lar ek özellik değil, işin kendisidir. Anahtarı NEXT_PUBLIC_ içine koyup tarayıcıya “vibe” akıtmak entegrasyon sayılmaz.

TypeScript servisinde karşılığını veren kalıplar; saklanabilir yapılandırılmış çıktı, kendi API’lerinizle sınırlandırılmış araçlar ve gerçekten denetlediğiniz bir veri kümesi üzerinde RAG’dir — “bütün Postgres” değil. OpenAI ya da Anthropic birer sağlayıcıdır. Sözleşme sizindir: girdi, araç listesi, azami token sayısı ve model yavaşladığında ya da yanıldığında ne olacağı. Elle kodlamayacağım bir yazma işlemini modelin uydurmasına izin vermem.

İlk kullanıcılar gelmeden önce tüm tablolara sınırsız erişen asistanı, sunumda moda bir kelime geçsin diye eklenen landing page chatbot’unu ve denenmemiş bir politikaya dönüşmüş prompt’u reddederim. Bunlar maliyeti ve sorumluluğu gizler. İlk sürüm güvenli biçimde duramıyorsa —taslak gösterip insana sormak ve hiçbir şey yazmamak— para ya da kişisel verilerle (PII) çalışmaya hazır değildir.

Bana brief gönderiyorsanız eylemi, elinizdeki verileri ve yazma işlemini kimin onaylayabileceğini belirtin. Üretime çıkaracağım en küçük Node.js işini önereceğim: bir route, bir şema, bir model çağrısı ve modele henüz açmayacağım şeylerin kısa listesi. Tahmin dediğim şey bu listedir.