Loading...

Ollama 上线自研多模态 AI 引擎:逐步摆脱 llama.cpp 框架依赖,本地推理性能飙升

GoodNav 报道,科技媒体 WinBuzzer 5 月 16 日指出,开源大语言模型工具 Ollama 发布了自主研发的多模态 AI 定制引擎,不再直接依赖 llama.cpp

llama.cpp 项目最近通过 libmtmd 库加入了视觉功能,这引来了社区的讨论。

Ollama 团队在 Hacker News 上回应,他们使用 Go 语言独立开发,并未直接复制 llama.cpp 的 C++ 实现,并感谢社区的反馈和改进建议。

Ollama 在声明中提到,随着 Meta 的 Llama 4、Google 的 Gemma 3、阿里巴巴的 Qwen 2.5 VL 和 Mistral Small 3.1 等模型的复杂性提升,现有架构已无法满足需求。

© 版权声明

相关文章

暂无评论

您必须登录才能参与评论!
立即登录
暂无评论...