LLM 函数调用最佳实践


1. 工具协议设计

  • 输入/输出 Schema、错误模型与幂等性;示例优先。
  • 安全边界:字段级校验与脱敏;速率与用量限制。

2. 工具选择与路由

  • 少量高价值工具白名单;其余通过路由或回退策略触达。
  • 基于上下文的路由提示;失败回退至安全路径。

3. 执行与验证

  • Schema/正则/小模型判别器对输出二次校验。
  • 关键动作需人工确认或双因子;提供撤销与补偿。

4. 审计与可观测

  • 记录调用链:工具参数、结果、耗时与错误;生成可回放日志。
  • 暴露指标:成功率/错误率/时延/成本;异常激增报警。

5. 典型陷阱

  • 工具爆炸与提示冗长;缺少回退;错误吞没;权限过大。

文章作者: 张显达
版权声明: 本博客所有文章除特別声明外,均采用 CC BY 4.0 许可协议。转载请注明来源 张显达 !
  目录