Ollama - 本地运行Llama和其他大语言模型
Ollama是一个用于在本地计算机上运行大型语言模型的命令行工具,允许用户下载并本地运行像Llama 2、Code Llama和其他模型,并支持自定义和创建自己的模型。该免费开源的项目,目前支持macOS和Linux操作系统,未来还将支持Windows系统。
Ollama是一个用于在本地计算机上运行大型语言模型的命令行工具,允许用户下载并本地运行像Llama 2、Code Llama和其他模型,并支持自定义和创建自己的模型。该免费开源的项目,目前支持macOS和Linux操作系统,未来还将支持Windows系统。
此外,Ollama还提供了官方的Docker镜像,由此使用Docker容器部署大型语言模型变得更加简单,确保所有与这些模型的交互都在本地进行,无需将私有数据发送到第三方服务。Ollama在macOS和Linux上支持GPU加速,并提供了简单的命令行界面(CLI)以及用于与应用程序交互的REST API。
该工具对于需要在本地机器上运行和实验大语言模型的开发人员或研究人员来说特别有用,无需依赖外部云服务。
Ollama 现已推出适用于 macOS 和 Windows 的Ollama桌面端,新增文件处理与多模态交互功能,让用户与本地大语言模型交互更直观便捷。
Ollama安装包获取

获取Ollama安装包,扫码关注回复:Ollama
Ollama支持的模型
Ollma提供一个模型库,用户可以自行选择安装想要运行的模型,目前支持40+的模型,还在持续增加中,以下是可以下载的开源模型示例:
| 模型 | 参数大小 | 文件大小 | 下载运行命令 |
|---|---|---|---|
| DeepSeek-R1 | 1.5B、7B、14B、32B等 | 12-320GB | ollama run deepseek-r1 |
| Neural Chat | 7B | 4.1GB | ollama run neural-chat |
| Starling | 7B | 4.1GB | ollama run starling-lm |
| Mistral | 7B | 4.1GB | ollama run mistral |
| Llama 2 | 7B | 3.8GB | ollama run llama2 |
| Code Llama | 7B | 3.8GB | ollama run codellama |
| Llama 2 Uncensored | 7B | 3.8GB | ollama run llama2-uncensored |
| Llama 2 13B | 13B | 7.3GB | ollama run llama2:13b |
| Llama 2 70B | 70B | 39GB | ollama run llama2:70b |
| Orca Mini | 3B | 1.9GB | ollama run orca-mini |
| Vicuna | 7B | 3.8GB | ollama run vicuna |
更多 AI 工具
AI 绘画提示词生成器
为 AI 绘画工具(Midjourney、Stable Diffusion、DALL-E)生成高质量提示词,组合主体、风格、光线、构图、质量修饰词,一键复制英文 Prompt。
AI 提示词模板生成器
快速生成结构化 AI 提示词模板,支持写作、编程、分析、翻译、总结等场景,包含角色设定、任务描述、输出格式和约束条件,一键复制使用。
时间戳转换器
Unix 时间戳与日期时间互转工具,支持秒级和毫秒级时间戳,实时显示当前时间戳,一键复制。
文本字数统计工具
在线文本字数统计器,统计字符数、单词数、行数、段落数,支持中英文混合文本,实时计算阅读时间估算。
颜色选择器
在线颜色选择和转换工具,支持 HEX、RGB、HSL 互转,颜色预览,一键复制各格式色值。
Markdown 预览器
在线 Markdown 编辑器和实时预览工具,支持标题、列表、代码块、链接、表格等常用语法,左侧编辑右侧实时渲染。