GLM-4-9B重大更新:无缝对接Ollama,开启高效部署新篇章

GLM技术团队 GLM大模型 2024年07月11日 23:03 北京

IMG_256
GLM-4-9B 及 CodeGeeX4-ALL-9B 现已支持Ollama部署。
GLM-4-9B
 是智谱 AI 推出的最新一代预训练模型 GLM-4 系列中的开源版本。在语义、数学、推理、代码和知识等多方面的数据集测评中, GLM-4-9B 在各项能力上均表现出卓越的能力。

具体可参见 Github Repo:https://github.com/THUDM/GLM-4

CodeGeeX4-ALL-9B 是最新的 CodeGeeX4 系列模型的开源版本。该模型是在 GLM-4-9B 基础上持续训练的多语言代码生成模型,显著提升了代码生成能力。

具体可参见 Github Repo:https://github.com/THUDM/CodeGeeX4

Ollama是一个专为在本地环境中运行和定制大型语言模型而设计的工具。它提供了一个简单而高效的接口,用于创建、运行和管理这些模型,同时还提供了一个丰富的预构建模型库,可以轻松集成到各种应用程序中。Ollama支持多种操作系统,包括macOS、Windows、Linux以及Docker,适用性广泛。通过Ollama,用户可以方便地部署和运行GLM-4-9B 等开源的大语言模型。此外,Ollama还提供了包括网页、桌面应用和终端界面在内的多种互动方式,方便用户使用和管理这些模型。欢迎大家体验!模型地址:

  • https://ollama.com/library/glm4
  • https://ollama.com/library/codegeex4

安装

#执行以下命令即可部署运行ollama run glm4

ollama run codegeex4

注意:此模型需要Ollama 0.2或更高版本,目前处于预发布阶段。当前支持ollama部署的仅为语言模型,多模态模型尚不支持ollama部署。

© 版权声明
THE END
喜欢就支持一下吧
点赞13 分享
评论 抢沙发
头像
欢迎您留下宝贵的见解!
提交
头像

昵称

取消
昵称表情代码图片

    暂无评论内容