基于Ollama,搭建本地大模型Llama3.1

Ollama安装

curl -fsSL https://ollama.com/install.sh | sh

基于Ollama,搭建本地大模型Llama3.1如果服务器曾修改过DNS配置,此处可能出现https://ollama.com解析异常,修改DNS设置即可解决;WARNING: No NVIDIA/AMD GPU detected. Ollama will run in CPU-only mode.该异常可能会影响模型性能,目前未影响使用,后续修改会再更新。

Llama3.1安装

ollama run llama3.1
基于Ollama,搭建本地大模型Llama3.1默认安装的是8B,安装时间大概几分钟,success后即可进入对话内容。
使用

基于Ollama,搭建本地大模型Llama3.1

前沿技术新闻资讯

显卡在偷懒?阿里大模型创作平台 MuseAI 极速模型切换技术提升 AI 创作效率

2025-2-7 10:51:03

前沿技术新闻资讯

2024大模型之战:从技术浪漫到落地求生丨封面故事

2025-2-7 11:36:48

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
购物车
优惠劵
搜索