人人都可以搭建本地大模型-搭建ollama

ollama简介
官网:https://ollama.com/ 是一个用于本地化部署和运行各种开源大模型的工具;
它能够帮助用户快速在本地运行各种大模型,极大地简化了大模型在本地运行的过程。用户通过执行几条命令就能在本地运行开源大模型,如Llama 2、Llama 3、qwen(千问)、等;综上,Ollama是一个大模型部署运行工具,在该工具里面可以部署运行各种大模型,方便开发者在本地搭建一套大模型运行环境;
1.ollama安装
下载ollama地址
https://ollama.com/download

2.模型选择
https://ollama.com/library

3.本地访问和运行
我选择的模型是llama3:8b

1715610003038

1715610033782

本地大模型搭建成功!恭喜你🎉 比昨天更博学了!

[分享]JAVA快速接入AI能力实践

本次分享是在我们kanjian-common中集成了Spring AI 框架,进一步对Spring AI 进行封装,可以快速的接入和使用AI的能力,从而让我们(开发人员)更专注业务!

价值:开发小伙伴统一使用common服务,不需要自己服务再去对接各模型或各服务,配置好依赖后,直接调用方法的方式使用AI的能力,如果接口不满足需求也可以自己实现接口进行使用。

目前有几个模块

1.spring-ai-chat : 用于对接 聊天业务,生成模式

可以对接的模型

  • OpenAI
  • Azure Open AI
  • Amazon Bedrock
  • Cohere’s Command
  • AI21 Labs’ Jurassic-2
  • Meta’s LLama 2
  • Amazon’s Titan
  • Google Vertex AI Palm
  • Google Gemini
  • HuggingFace - access thousands of models, including those from Meta such as Llama2
  • Ollama - run AI models on your local machine
  • MistralAI

    Read More

关于我

嗨! 小伙伴们,我是一名热爱音乐和技术的小编程达人!毕业于东北师范大学后,我决定走进编程的世界,成为一名Java程序员。但是呢,除了Java,我还是Python和Go的小能手哦,我在“看见音乐”公司做Java程序员,和看见小伙伴们一起,用代码创造美好的音乐生活!

在音乐行业深耕多年,我对DDEX的实现和解析了如指掌,并还参与了“看见音乐公司音乐传输标准”——“K-JSON”的创建。为了提高工作效率,我还开发了一款K-JSON生成工具,可以轻松搞定。在音乐行业的内容系统开发和公司核心工具集建设中,我积累了丰富的经验,带领小伙伴们一起实现梦想!同时,我还参与了元数据系统的开发,为公司带来了不一样的价值,哈哈~快来跟我一起玩耍吧!

除了专业技能外,我还是一名超级音乐爱好者!喜欢欣赏“二手玫瑰”的音乐,也喜欢炸一炸的歌曲,每当有音乐节活动,我都会积极参加,享受音乐带来的快乐和美好~

未来,我的职业目标是继续深耕音乐行业,用我的技术能力和创造力,为音乐带来更多可能性,让更多人通过音乐感受到美好的生活!一起加油,一起前行吧!🚀

邮箱:Adonispeng@126.com