注:schema是个编程术语也许可以翻译成模式拿excel表作类比表头是schema 这样的技能使大语言模型能够执行与我们的产品相关的各种任务如查看个人资料、搜索文章/人员/职位/公司甚至查询内部分析系统。
同样的技术也用于调用非LinkedIn API如Bing搜索和新闻。 AI智能体产品案例深度思考和分享全球顶级公司实践细节做AI智能体必读 图3:使用技能调用内部API 我们编写了提示词要求大语言模型LLM决定使用哪种技能来解决特定任务通过规划来完成技能选择然后输出调用该技能所需的参数函数调用。
由于调用参数必须与输入schema匹配我们要求LLM以结构化的方 瓦努阿图电话号码列表 式输出它们。大多数LLM都经过YAML和JSON的结构化输出训练。我们选择YAML是因为它更简洁因此消耗的tokens比JSON少。 我们遇到的一个挑战是虽然大约90%的时间里LLM的响应包含了正确格式的参数但有大约10%的时间LLM会出错注:经常说的幻觉并且经常输出不符合要求的数据或者更糟糕的是甚至不是有效的YAML。
虽然这些错误对人类来说微不足道但会导致解析它们的代码出错。由于10%的比例足够高我们不能忽视这些微不足道的错误因此我们着手解决这个问题。 解决这个问题的标准方法是检测到错误然后重新发提示词给大语言模型要求它在这些额外指示下纠正错误。