Spring AI 简介 Spring AI 是一个为 AI 工程领域设计的应用框架。
目标是将 Spring 生态系统的设计原则（如可移植性和模块化设计）应用于 AI 领域，并推广使用 POJO （Plain Old Java Objects）作为应用程序的构建块。 特性 提供跨 AI 提供商的可移植 API 支持，包括 Chat、文本到图像和嵌入模型。 支持同步和流 API 选项，并允许访问模型特定功能。 支持的模型 Chat Models（聊天模型） OpenAI Azure Open AI Amazon Bedrock Cohere’s Command AI21 Labs’ Jurassic-2 Meta’s LLama 2 Amazon’s Titan Google Vertex AI Palm Google Gemini HuggingFace（访问数千个模型，包括 Meta 的 Llama 2） Ollama（在本地机器上运行 AI 模型） MistralAIStabilityAI Transcription Models（转录模型，音频到文本） OpenAI Embedding Models（嵌入模型） OpenAI Azure OpenAI Ollama ONNX PostgresML Bedrock Cohere Bedrock Titan Google VertexAI Mistal AI Vector Store API 提供跨不同提供商的可移植性。 特点是一个新颖的类似 SQL 的元数据过滤 API。 矢量数据库 Azure Vector Search Chroma Milvus Neo4j PostgreSQL/PGVector PineCone Redis Weaviate Qdrant Spring Boot 自动配置和启动器 为 AI 模型和矢量存储提供自动配置和启动器。 功能调用 可以声明 java.util.Function 实现以供 OpenAI 模型在其提示响应中使用。 可以直接提供这些函数作为对象，或者如果它们作为 @Bean 在应用程序上下文中注册，则可以通过名称引用。 数据工程的 ETL 框架 核心功能是使用 Vector Store 促进文档到模型提供者的传输。 基于 Java 函数式编程概念，帮助链接多个步骤。 支持读取 PDF、JSON 等多种格式的文档。 允许数据操作以满足需求，如分割文档以遵守上下文窗口限制，使用关键字增强以提高检索效率。 处理后的文档存储在矢量数据库中，便于将来检索。 资源 提供广泛的参考文档、示例应用程序和研讨会/课程材料。 未来版本 将提供对其他 AI 模型的访问，例如 Google 刚发布的 Gemini 多模态模型。 提供用于评估 AI 应用程序有效性的框架，更多便利的 API，以及帮助解决“查询/汇总我的文档”用例的功能。 开始使用 安装 Spring CLI，然后运行命令创建与 ChatGPT 交互的基本应用程序。 按照生成的 README 文件中的说明获取 API KEY 并运行应用程序。 快速启动项目 使用 Spring Initializr 引导应用程序。
暂无评论内容