语雀地址:https://www.yuque.com/pgthinker/spring-ai
-
Spring AI - Chat API
- 快速入门
- 流式对话
- 上下文对话
- 人设设置
- Prompts 模板语法
- 基于数据库的多 Key 轮询
- 基于 Vue3 实现流式对话
- 前后端分离,core 是 Vue 源码,static 是 build 出来的静态资源内容
- 使用最新的 Spring AI 版本:1.0 实现
- 运行该模块后可以通过:
http://localhost:8898/index.html
直接访问网站
- Function Call 函数调用
-
Spring AI - Image API
-
Spring AI - Embedding API
- Embedding API 快速入门
- 向量数据库概述
- Embedding API 结合向量数据库
- RAG 实战
- 权限隔离的 RAG Demo
- 基于部门划分实现权限隔离。RAG 检索到数据仅限于当前用户所在部门的数据。
- 可扩展:指定某个知识库进行对话。
-
Spring AI - Transcription API
-
实战练习项目
- know-hub-ai:Spring AI and PGVector 基于个人知识库的 AI 问答系统。
Spring AI 是 Spring 生态中应用于人工智能领域的应用框架,它的目标是将 Spring 生态系统的设计原则(如可移植性、模块化设计)应用于 AI 领域,并在 AI 领域中推广使用 POJO(Plain Old Java Objects)作为应用的构建模块。
Spring AI 能做什么?
- 支持目前主流大语言模型平台,例如 OpenAI、Microsoft、Amazon、Google 和 Huggingface;
- 支持阻塞与流式的文本对话;
- 支持图像生成(当前仅限 OpenAI 的 dall-e-*模型和 SD);
- 支持嵌入模型;
- 支持 LLM 生成的内容转为 POJO;
- 支持主流的向量数据库或平台:Azure Vector Search, Chroma, Milvus, Neo4j, PostgreSQL/PGVector, PineCone, Qdrant, Redis 和 Weaviate
- 支持函数调用
- 支持自动装配和启动器(与 Spring Boot 完美集成);
- 提供用于数据处理工程的 ETL 框架;
相关资料
本栏目侧重于讲述:
- 基于 OpenAI 接口实现的对话调用,包括:阻塞式对话和流式对话;
- 实现上下文检索,让 AI 赋予记忆力;
- 基于提示词工程,让 AI 赋予专业能力;
- 基于 OpenAI 接口实现的绘图调用;
- 基于 AI 自查功能,通过文本对话让 AI 自行判断是对话还是绘图;
- 基于 OpenAI 接口实现文本向量化处理;
- 基于文本向量化处理和向量数据库实现 RAG(增强式检索)技术;
- 基于 OpenAI 接口实现音频转录功能,赋予 AI 语音对话能力;
- 基于数据库存储实现多 Key 轮询,突破 API 请求限制;
- 使用 OneAPI 项目,统一世界主流大语言模型的接口;
本教程使用的大语言模型接口均以 OpenAI 为例。
版本说明:
- JDK >= 17
- Spring 6.x;Spring Boot 3.x
- Spring AI 0.8.1-SNAPSHOT + Spring AI 1.0.0