一、局限性
任何模型都永远存在三种局限性,即知识边界、推理边界、行为边界,只是对于不同模型有不同程度的体现。
1、知识边界:由于模型在特定任务下缺少相应的知识,而使用其泛化的理解力以实现目的,出现不稳定及不精准的情况;
2、推理边界:由于模型本身的上下文窗口限制、注意力权重稀释等问题,对上下文的处理能力不足,而导致当待处理的任务过长或过复杂时,出现不遵循指令或者执行准确度不足的情况
3、行为边界:虽然模型本身可做文本生成、图像生成等,但仍然不具备更多元化的能力,因此在实现某些任务目标上无法独立实现
二、产品技术实践场景
1、知识边界考虑
最佳的AI产品实践按推荐可行性排序:
1.1、自己作为任务所需要的知识体系的生产者
1.2、具备足够强大的领域专业模型
1.3、RAG或模型提示词补充信息,但对知识要求极其高,因为除了可见的标准信息,特定任务下通常还包含隐性的经验、常识等不易搜罗的信息。不易有效达成目标的实现
2、推理边界考虑
推理边界相对可解决,按推荐可行性排序:
2.1、优先选择参数量大推理能力强的模型
2.2、通过工程策略或手段让模型做尽可能小的事情
3、行为边界考虑
通常可结合MCP、workflow、function calling等扩展行为边界
总结
上述三种边界下的考虑实践,均优先以满足可行性排序在前的点,效果会事半功倍,当然也可以多点结合实践以提高任务完成度