Cara Membangun Sistem RAG (Retrieval-Augmented Generation) Lokal dengan Node.js dan LLM Open-Source

Halo para developer dan pegiat teknologi! Selamat datang kembali di blog Dahono.

Bagi Anda yang sedang membangun aplikasi berbasis Large Language Models (LLM), Anda pasti pernah menghadapi masalah klasik: LLM memiliki batas pengetahuan (knowledge cutoff) dan sering mengalami hallucination saat ditanya dokumen spesifik perusahaan atau data privat Anda.

Solusi paling elegan untuk masalah ini adalah RAG (Retrieval-Augmented Generation). Dengan teknik ini, kita menyuplai konteks dokumen yang relevan secara real-time ke dalam prompt LLM.

Di tutorial praktis kali ini, kita akan membangun sistem RAG sederhana namun bertenaga menggunakan Node.js, vector embeddings, dan menghubungkannya melalui Dahono Router untuk pengelolaan API LLM yang cepat dan andal.

Prasyarat

Sebelum kita mulai ngoding, pastikan Anda telah menyiapkan:

Node.js versi 18 atau di atasnya terinstal di komputer Anda.
Akun atau akses ke API Gateway (kita akan menggunakan Dahono Router untuk melakukan routing permintaan LLM secara efisien).

Langkah 1: Inisialisasi Proyek Node.js

Buat direktori baru untuk proyek Anda, lalu instal dependensi yang kita butuhkan:

mkdir node-rag-tutorial
cd node-rag-tutorial
npm init -y
npm install dotenv node-fetch

Buat file .env di root direktori Anda untuk menyimpan kunci API:

DAHONO_ROUTER_API_KEY=your_router_api_key_here
DAHONO_ROUTER_URL=https://router.dahono.com/v1/chat/completions

Langkah 2: Menyiapkan Dokumen Konteks

Untuk demonstrasi ini, mari kita buat file teks sederhana bernama knowledge.txt yang berisi informasi fiktif perusahaan:

PT Dahono Teknologi Nusantara adalah perusahaan rintisan yang berfokus pada infrastruktur AI, pengembangan produk AI Gateway bernama Dahono Router, serta solusi riset hukum berbasis kecerdasan buatan melalui Dahono Labs.

Langkah 3: Membuat Skrip Utama RAG (index.js)

Dalam sistem RAG produksi, Anda biasanya menggunakan Vector Database seperti Pinecone atau Milvus, serta pustaka embeddings. Namun, untuk menjaga tutorial ini tetap ringan dan langsung pada sasaran (hands-on), kita akan mensimulasikan pencarian berbasis teks dan mengirimkannya bersama konteks ke LLM via Dahono Router.

Buat file index.js:

import fs from 'fs';
import fetch from 'node-fetch';
import dotenv from 'dotenv';

dotenv.config();

// 1. Fungsi untuk membaca dokumen lokal
function loadKnowledgeBase(filePath) {
    return fs.readFileSync(filePath, 'utf-8');
}

// 2. Fungsi untuk berinteraksi dengan LLM melalui Dahono Router
async function askLLMWithContext(context, question) {
    const prompt = `Gunakan konteks di bawah ini untuk menjawab pertanyaan dengan akurat.

Konteks:
${context}

Pertanyaan: ${question}
Jawaban:`;

    try {
        const response = await fetch(process.env.DAHONO_ROUTER_URL, {
            method: 'POST',
            headers: {
                'Content-Type': 'application/json',
                'Authorization': `Bearer ${process.env.DAHONO_ROUTER_API_KEY}`
            },
            body: JSON.stringify({
                model: "default-llm",
                messages: [{ role: "user", content: prompt }],
                temperature: 0.2
            })
        });

        const data = await response.json();
        return data.choices[0].message.content;
    } catch (error) {
        console.error("Gagal menghubungi API:", error);
        throw error;
    }
}

// 3. Eksekusi Utama
async function main() {
    const knowledge = loadKnowledgeBase('knowledge.txt');
    const userQuery = "Apa itu Dahono Router?";

    console.log(`Pertanyaan: ${userQuery}\n`);
    console.log("Mengambil konteks dan memproses melalui AI...");

    const answer = await askLLMWithContext(knowledge, userQuery);
    
    console.log(`\nHasil Jawaban AI:\n${answer}`);
}

main();

Langkah 4: Menjalankan Aplikasi

Jalankan skrip Node.js Anda dengan perintah:

node index.js

Jika konfigurasi Anda benar, AI akan merespons dengan merujuk langsung pada isi file knowledge.txt yang Anda berikan, tanpa menebak-nebak atau mengalami halusinasi.

Mengapa Menggunakan Dahono Router untuk Skala Produksi?

Saat aplikasi RAG Anda mulai diakses oleh ribuan pengguna secara bersamaan, pengelolaan token, pembatasan kuota (rate limiting), dan latensi jaringan akan menjadi tantangan besar.

Di sinilah Dahono Router hadir sebagai AI Gateway terpusat. Dengan menggunakan platform ini, Anda dapat:

Melakukan load balancing secara otomatis ke berbagai penyedia LLM.
Memantau penggunaan token secara real-time.
Mengamankan kredensial API Anda di satu titik terpusat yang tangguh.

Kesimpulan

Membuat sistem RAG dengan Node.js ternyata tidak serumit yang dibayangkan. Dengan menggabungkan data privat dan kecerdasan model bahasa, aplikasi Anda kini jauh lebih cerdas dan kontekstual.

Tertarik mengeksplorasi solusi AI tingkat lanjut lainnya? Jangan lupa untuk mencoba layanan Dahono Router untuk kebutuhan infrastruktur AI Anda, atau kunjungi Dahono Labs jika Anda membutuhkan solusi khusus di ranah kecerdasan buatan dan riset hukum.

Selamat mencoba dan happy coding!