不想码代码
AGI

Spring AI+Ollama+pgvector实现本地RAG

Spring AI+Ollama+pgvector实现本地RAG 前言 之前写过一篇Spring AI+Ollama本地环境搭建的文章,本篇在此基础上进一步搭建本地RAG。RAG是目前大模型应用落地的一套解决方案,中文名叫检索增强,由于大语言模型有时效性和幻觉等局限性,使用RAG方案,先利用搜索技术

Administrator Administrator 发布于 2024-03-20

Spring AI+Ollama本地环境搭建

前言 Spring AI框架旨在简化人工智能应用的开发,文档可以查看Spring AI :: Spring AI Reference,如今Spring AI已经上架Spring Initializr,本次搭建一个本地的demo环境。Spring AI支持聊天模型、向量模型、文生图模型,模型支持Ope

Administrator Administrator 发布于 2024-03-08
AGI

ChatGLM3测试CPU部署

简介 ChatGLM3介绍可自行查看(项目概览 - ChatGLM3 - GitCode),主要有如下这么一段,GPU贵,但是CPU便宜啊,这次就使用阿里云选一台按量付费的测试一下部署chatglm3-6b。 准备机器 选择ecs.g8i.2xlar

Administrator Administrator 发布于 2024-01-30