autollm.tsx
AI / ML2024

AutoLLM — 無程式碼 RAG 聊天機器人

技術棧

FastAPINext.jspgvectorRedisOpenAIDocker

專案概述

AutoLLM 是以 FastAPI 與 Next.js 構建的全端生產就緒 RAG 聊天機器人。使用者上傳 .txt/.pdf 檔案後,系統自動進行解析、分塊、向量嵌入並索引至 PostgreSQL pgvector。聊天介面透過 SSE 串流輸出附引用來源的回答,支援 OpenAI、Gemini、Claude 等可插拔 LLM 提供者。功能涵蓋 JWT 驗證、Redis 對話快取(3 天 TTL)、串流回應、拖放多檔上傳及使用者對話隔離。透過 Docker Compose 與 Makefile 工作流程部署。

型別定義

autollm.tsx
const Autollm = {
  title: "AutoLLM — 無程式碼 RAG 聊天機器人",
  category: "AI / ML",
  year: "2024",

  tech: [
    "FastAPI",
    "Next.js",
    "pgvector",
    "Redis",
    "OpenAI",
    "Docker"
  ],

  summary:
    // 生產就緒的 RAG 聊天機器人:上傳檔案、設定檢索參數,即可進行有來源引用的問答,無需撰寫程式碼。

} satisfies Project;