本篇将介绍下如何使用Vue3去调用Spring AI实现的流式输出接口。整个流程演示基于前后端分离。

今年五一待在宿舍花了三天时间使用Flutter开发了一款基于ChatGPT大语言模型对话的App – ChatX。

五一这些天花了三天时间写了一个GPT 移动端APP。

本篇我们将使用Spring AI实现一个RAG对话接口和知识库上传接口。

Spring AI为我们提供了对向量数据库操作的接口：VectorStore，该接口定义了对向量数据库的增、删、查的操作，方便我们快速地对向量数据库进行操作。

向量数据库除了存储必要的元数据(如文本、图片)外，还会存储对应元数据的向量。与传统的数据库执行的精确性搜索不同的是，向量数据库执行的是相似性搜索。

Spring AI 的 Embeddings API的功能是调用各平台（目前包括：OpenAI、Ollama、Azure OpenAI等）的嵌入模型将文本转换为数值向量。

我们可以通过AI自查手段将文本模型和图片生成模型进行组合实现一个既可以生成文本也可以生成AI的接口。这个关键点就是利用提示词限制AI的回复内容以达到一个自查手段。

Spring AI提供了图片生成接口，该接口可以用于与各种专门用于图像生成的人工智能模型进行交互，允许开发人员以最少的代码更在在不同的图像相关模型之间切换。

Spring AI本身不支持多Key轮询的操作，因此本篇将基于数据库来实现一个多Key轮询。