LLM 入门 API-03|从 Chat Completions、Assistants 到 Responses llm LLM 入门 API-03|从 Chat Completions、Assistants 到 Responses 有更新! 沿用三行退款 CSV,对照 Chat Completions 的消息数组、已退役 Assistants 的 Thread 与 Run,以及 Responses 的... 0 评论 0 浏览
LLM 入门 API-04|Function Calling 与 Structured Outputs llm LLM 入门 API-04|Function Calling 与 Structured Outputs 有更新! 让模型提议调用只读退款统计函数,应用校验参数、执行计算并按调用 ID 回填结果,再用结构化输出约束最终报告。最小实验验证类型错误、数据不匹配和同轮多调用,并用正确... 0 评论 0 浏览
LLM 入门 API-09|约束解码如何生成符合 Schema 的结构化输出 llm LLM 入门 API-09|约束解码如何生成符合 Schema 的结构化输出 有更新! 把退款报告缩小成一个只含有效条数的 JSON 对象,手算前缀状态怎样筛选下一步 Token。用短代码对照自由生成、JSON 模式、Schema 约束和应用校验,区... 0 评论 0 浏览
LLM 入门 API-05|SSE 和流式工具调用 llm LLM 入门 API-05|SSE 和流式工具调用 有更新! 从 HTTP 响应字节开始解析 SSE,区分网络读取边界、完整事件和模型增量。对照 Chat Completions 和 Responses 的流式字段,用一字节... 0 评论 0 浏览
LLM 入门 API-06|Anthropic Messages API 的内容块与事件 llm LLM 入门 API-06|Anthropic Messages API 的内容块与事件 有更新! 从 Anthropic 的原始 HTTP 请求出发,观察顶层系统指令、普通文字块、工具提议和工具结果。沿用退款统计函数重建流式参数并对照 OpenAI 的消息形状... 0 评论 0 浏览
LLM 入门 API-07|模型协议适配与能力矩阵 llm LLM 入门 API-07|模型协议适配与能力矩阵 有更新! 用同一个退款报告接入 OpenAI Responses 与 Anthropic Messages,设计应用读取的文本、工具、用量和错误类型。通过最小代码核对图片和... 0 评论 0 浏览
LLM 入门 API-08|实时语音 Agent 的双向流 llm LLM 入门 API-08|实时语音 Agent 的双向流 有更新! 用一句退款报告追踪浏览器麦克风采集、WebRTC 和 WebSocket 双向传输、语音活动检测以及播放队列。再用浏览器中的合成音测一次打断,观察已播时长、停止回... 0 评论 0 浏览
LLM 入门 F-12|推理时计算与 Reasoning 模型怎样比较? llm LLM 入门 F-12|推理时计算与 Reasoning 模型怎样比较? 有更新! 以四道退款汇总题为固定样本,区分逐 Token 解码、服务端推理强度和应用层多次采样。用同一套评分脚本比较正确率、Token 用量、延迟和输出预算触顶率,并提供可... 0 评论 0 浏览
LLM 入门 F-11|GRPO 怎样用同组答案的奖励更新模型? llm LLM 入门 F-11|GRPO 怎样用同组答案的奖励更新模型? 有更新! 拿同一条退款统计题的四个答案,逐项检查奖励、计算组内平均与标准差,再做一次简化的策略更新。看清优势、旧策略、概率比率和参考模型的分工,并用满分同组与弱校验说明评测... 0 评论 0 浏览
LLM 入门 F-10|模型从预训练到会按要求回答 llm LLM 入门 F-10|模型从预训练到会按要求回答 有更新! 用同一条退款统计请求,对照原始文本、示范答案、偏好对和可验证奖励分别提供什么训练信号。通过一个小实验手算下一 Token 损失和回答遮罩,再解释全量微调与 LoR... 0 评论 0 浏览