面试最常问Java 后端 · 大模型应用
Agent 和普通的大模型调用有什么区别?模型是怎样调用工具的?
先自己想一想,再看参考要点
参考要点
- 普通调用是一问一答,模型根据输入生成文本,不能自行查询数据库或执行操作,外部资料要由应用放进输入
- Agent 由模型决定下一步调用哪个工具,应用代码执行后把结果交还模型,如此循环直到任务完成
- 工具调用的过程:请求中附上工具的名称、用途和参数的 JSON Schema,推理服务按对话模板把它们拼进提示词,模型生成一段特定格式的文本,推理服务解析成 tool_calls 返回,应用执行后用 tool 角色的消息把结果发回
- 模型始终只输出文本,可能写错参数或编造订单号,所以执行前要校验,循环要限制最大步数
学习站:先用面试题自评定级,按水平和面试日期排出每天的计划,自评过的题按间隔复习。免费、无需注册,记录只保存在自己的浏览器中。