Llama.cpp 和 ollama 的联系和区别 lama.cpp 是 Ollama 的底层核心引擎。你可以这样理解它们的区别:llama.cpp 是一台性能强大的“发动机”,而 Ollama 则是搭载了这台发动机、并为你配好了方向盘、座椅和音响的“家用 ... continue reading AI 大模型 zhuoyuebiji 2026/3/20 195
机器学习和自然理解任务中的 Query、Ground Truth、Context 在机器学习和自然理解任务中,Query(查询)、Ground Truth(真值标签)、Context(上下文) 是三个核心概念,尤其是在检索增强生成(RAG)、问答系统、信息检索等场景中。 1. Query(查询) 是什么 ... continue reading AI 大模型 zhuoyuebiji 2026/4/8 38
针对大模型的安全性测试 大模型是有可能生成事实性错误的输出,我们不应依赖其提供事实准确的信息。还有 预训练模型及微调数据集的局限性,大模型也有可能生成低俗、带有偏见或其他冒犯性的内容。所以测试工程师需要对大模型做安全性测试,根据最新的行业实践和标准建立一个系统化的 ... continue reading AI 大模型 zhuoyuebiji 2026/4/14 4