autollm.tsx
AI / ML2024
AutoLLM — 無程式碼 RAG 聊天機器人
技術棧
FastAPINext.jspgvectorRedisOpenAIDocker
專案概述
AutoLLM 是以 FastAPI 與 Next.js 構建的全端生產就緒 RAG 聊天機器人。使用者上傳 .txt/.pdf 檔案後,系統自動進行解析、分塊、向量嵌入並索引至 PostgreSQL pgvector。聊天介面透過 SSE 串流輸出附引用來源的回答,支援 OpenAI、Gemini、Claude 等可插拔 LLM 提供者。功能涵蓋 JWT 驗證、Redis 對話快取(3 天 TTL)、串流回應、拖放多檔上傳及使用者對話隔離。透過 Docker Compose 與 Makefile 工作流程部署。
型別定義
autollm.tsx
const Autollm = { title: "AutoLLM — 無程式碼 RAG 聊天機器人", category: "AI / ML", year: "2024", tech: [ "FastAPI", "Next.js", "pgvector", "Redis", "OpenAI", "Docker" ], summary: // 生產就緒的 RAG 聊天機器人:上傳檔案、設定檢索參數,即可進行有來源引用的問答,無需撰寫程式碼。 } satisfies Project;