2026年JSON格式大模型API 示例代码解析:请求体字段与返回结构说明
2026年JSON格式大模型API 示例代码解析:请求体字段与返回结构说明
调大模型接口时,最耗时间的往往不是写代码,而是说清请求体里每个字段的含义,以及返回的 JSON 到底该取哪一层。
一份 JSON 格式大模型 API 示例代码,其实只需要看懂几个关键字段。下面以 OpenAI 兼容风格的接口为参照,把请求体字段与返回结构拆开说明;不同平台的字段命名和默认值可能不同,实际以所用平台控制台与文档给出的说明为准。
为什么大模型接口普遍用 JSON 传参
JSON 是自描述的:字段名说明语义,嵌套结构能表达数组与对象,各类语言都能直接解析。对于模型调用,请求体主要承载三件事——调用哪个模型、要说什么、生成策略有多严格。
一次典型的对话补全请求,结构大致如下:
{
"model": "模型名称",
"messages": [
{"role": "system", "content": "你是一个严谨的技术助理"},
{"role": "user", "content": "用三点解释什么是 JSON"}
],
"temperature": 0.7,
"max_tokens": 512,
"stream": false
}
请求体字段逐项拆解
model:要调用的模型标识,必须与模型列表中的名称完全一致,大小写和连字符都不能改。messages:对话数组,元素由role与content组成,常见角色为 system、user、assistant。temperature:采样随机性。值越低越稳定,适合结构化输出;值越高越发散,适合创意类任务。max_tokens:输出长度上限,也是控制单次成本最直接的旋钮。stream:是否流式返回,前端的打字机效果依赖它。
多模态场景下,content 往往从字符串变成数组,用来同时承载文本与图片地址。这是初学者最容易踩的坑:把数组写成了纯字符串。
返回结构:先看 choices,再看 usage
{
"id": "chatcmpl-xxxx",
"object": "chat.completion",
"choices": [
{
"index": 0,
"message": {"role": "assistant", "content": "..."},
"finish_reason": "stop"
}
],
"usage": {"prompt_tokens": 42, "completion_tokens": 156, "total_tokens": 198}
}
解析顺序建议固定下来:
- 取
choices[0].message.content作为正文,注意 choices 是数组,先做空数组判断。 - 看
finish_reason:stop表示正常结束;length通常意味着被 max_tokens 截断,长文场景要留意。 - 读
usage里的三个 token 数字,作为计费与成本统计的依据,不要凭感觉估算。
如果返回里完全没有 choices,而是出现 error 字段,问题基本不在解析层,而在于请求本身:模型名写错、Key 无效、参数越界或额度不足。先看错误信息,再动代码。
配置项自查表
把一份 JSON 格式大模型 API 示例代码拆到字段级别就会发现,真正需要按平台改动的通常只有三四个参数。下面这张表适合在调试前逐项过一遍。
| 配置项 | 作用 | 检查方法 |
|---|---|---|
| API Key | 身份与额度凭证 | 确认未撤销、未混用其他平台的 Key |
| Base URL | 请求地址前缀 | 与控制台给出的地址逐字比对,注意结尾斜杠 |
| model | 决定调用哪个模型 | 从模型列表直接复制,不要手打 |
| messages | 上下文内容 | 角色顺序合法,system 一般放最前 |
用通联AI中转站做一次最小验证
如果不想为每个厂商分别申请 Key、分别记 Base URL,可以用 通联AI中转站 做一次统一接入的验证。它的定位是把多家厂商的模型能力聚合到一套 OpenAI 兼容的调用方式下,适合需要同时比较多个模型、又不希望反复改配置的场景。
验证可以拆成四步:
- 在控制台的模型广场确认目标模型当前可调用,并复制准确的模型名称。
- 创建一个专用 API Key,测试与正式分开,便于后续按用途管理额度。
- 核对控制台给出的 Base URL 与兼容协议,替换代码中原有的地址与 Key,注意路径不要重复拼接。
- 先用一条短请求跑通,确认返回结构正常,再接入正式业务流程。
字段细节与接入示例可以对照 通联官网 的文档查看。需要提醒的是,不同模型支持的参数范围并不相同,有些模型不接受 temperature 或图像输入,调用前先看一眼模型说明,能省下不少调试时间。
三个高频排查点
401 / 403:多为 Key 复制不完整、带了多余空格,或认证请求头格式不对。
404:通常是 Base URL 拼错,或路径重复拼接,例如地址里已经含 /v1,代码又补了一次。
400:一般是参数问题,例如 messages 结构不合法、max_tokens 超出上限、传了该模型不支持的字段。
理解 JSON 格式大模型 API 示例代码的关键,是把请求体和返回结构当成两层来读:请求体决定你问什么,返回结构决定你怎么接。如果业务需要程序直接解析模型输出,可以在提示词里明确要求只输出 JSON,并在代码里加一层解析兜底,避免回复中混入解释性文字导致解析失败。
字段看懂了,下一步就是跑通第一次调用。到通联控制台注册账号、创建 API Key,核对 Base URL 与模型名称,用一条短请求验证返回结构,再把它接进你的业务流程。