Holon.liveHOLON OF HOLONS

AI模型与LLM是什么 能力从何而来

中文 · 对照英文

AI模型是根据规则或学习过程建立的计算表示,用来处理输入并产生输出。大语言模型(LLM)擅长处理和生成语言,也可以与其他能力结合,但模型的输出不天然等于事实。

训练与使用有什么不同

训练过程调整模型参数;推理通常指使用已有模型处理一次输入。把一份文档放入当前上下文,或从知识库检索相关材料,与修改模型参数是不同的事情。

能力还受到哪些条件影响

任务描述、可用资料、工具、运行预算和评价方式都会影响结果。相同模型在不同系统中可能表现不同,因此不宜只用模型名称解释一个智能体的全部能力。

学会分辨知识来源

模型可能依据参数中的统计规律生成回答,也可能使用用户提供或工具获取的资料。阅读结果时,应区分哪些内容有可核对来源、哪些仍是推测;这也是理解RAG和AI记忆的基础。

理解这些问题时,可以结合AI继续比较相关概念的含义与适用范围。

相关项目探索,可从LingoAI的智能体方向继续了解。

常见问题:模型记住了一个偏好,就代表它理解了这个人吗? 不能这样推断。某次输出、持续记忆与对个人的可靠理解需要分别评价。

公开参考资料: Lewis 等 Retrieval Augmented Generation for Knowledge Intensive NLP Tasks。