文档

连接中断计费逻辑

更新时间:2026-11-04

对于HTTP同步对话接口,往往耗时较长,会发生网络中断、客户端断开等意外情况。下面表格详述这些意外情况如何处理和计费:

HTTP状态场景客户收到的结果输入计费输出计费
正常模型正常返回完整响应,并带有用量完整响应按模型返回的用量按模型返回的用量
正常模型正常返回完整响应,但没有用量完整响应估算按返回内容估算,没有输出内容时不计
客户中断请求还没发给模型时,客户端就断开或超时连接已断开;超时时收到 408不计费不计费
客户中断请求已发给模型,还没收到任何响应时断开或超时连接已断开;超时时收到 408估算不计费
客户中断非流式请求,响应接收到一半时断开或超时连接已断开;超时时收到 408,不返回半截内容估算不计费
客户中断非流式请求,模型响应已完整返回,平台还没处理完时断开或超时(极少见)连接已断开;超时时收到 408按响应中能识别的用量;识别不到时估算按响应中能识别的用量;识别不到时按内容估算
客户中断流式请求,输出过程中断开或超时已收到的部分内容模型返回过用量时按其计费,否则估算模型返回过用量时按其计费,否则按已返回的内容估算
客户中断响应已完整收到后才断开完整响应与正常情况相同与正常情况相同
模型响应异常非流式请求,模型响应中途断流,客户端仍在等待500 错误,不返回内容不计费不计费
模型响应异常非流式请求,平台无法处理模型的响应500 错误,不返回内容不计费不计费
模型响应异常非流式请求,模型返回成功状态,但内容格式异常原样收到模型返回的内容不计费不计费
模型响应异常流式请求,模型输出中途断流,或最后一段数据不完整已收到的部分内容,可能包含最后一段不完整的数据模型返回过用量时按其计费,否则估算模型返回过用量时按其计费,否则按完整收到的内容估算,不完整的最后一段不计
模型响应异常模型明确返回错误,例如限流、服务异常、参数错误模型的错误信息不计费,模型在错误中明确返回了用量的除外不计费,模型在错误中明确返回了用量的除外

对于token用量“估算”,计算标准是:

内容类型估算方式
文字(提示词、回答、工具参数、代码等)用 o200k_base 分词器计数;空内容计 0
图片每张固定 520 tokens
音频每段固定 256 tokens
视频每段固定 8192 tokens
文件 / 文档(非纯文字)每个固定 4096 tokens