自定义AI模型怎么接:多种API格式兼容配置指南
越来越多模型服务提供“OpenAI 兼容接口”,但兼容并不代表请求路径、消息格式和返回结构完全一致。有的使用 Chat Completions,有的推荐 Responses API,还有私有服务保留 Legacy Completions 或采用 Anthropic Messages。
小黑日报助手近期扩展了自定义与本地模型兼容能力,让截图识别、报告生成和工作概览可以按用途配置,并支持更多接口格式、自定义请求地址和额外参数。
先分清三个模型用途
截图分析模型
需要真正支持图片输入,负责理解屏幕内容并生成工作记录。只支持文本的模型即使连接测试成功,也无法完成截图识别。
报告生成模型
主要处理长文本、模板和工作记录,重点是上下文容量、中文写作质量和指令遵循。它不一定需要视觉能力。
概览总结模型
用于首页工作概览等较短总结,可根据成本与速度选择轻量模型。
把不同任务交给合适模型,通常比所有入口共用一个大模型更稳定,也更容易控制成本。
常见接口格式怎么选
小黑日报助手可适配 OpenAI Chat Completions、OpenAI Responses、Legacy Completions 与 Anthropic Messages 等常见路径。选择时应以服务商官方文档为准,不要只看模型名称。
如果服务端提供完整 Base URL,先确认软件会不会自动拼接默认路径;如果厂商使用非标准路由,应填写自定义请求地址。额外参数适合传递 temperature、推理开关或厂商扩展字段,但不要重复覆盖软件必须维护的消息、模型和流式配置。
多模态截图最容易踩的坑
模型列表里出现某个名称,不代表部署实例已经启用视觉能力。连接截图模型前,应确认:
- 接口允许图片或 base64 内容;
- 所选模型版本支持视觉输入;
- 网关没有删除多模态消息字段;
- 单次请求大小允许多显示器图片;
- 返回格式符合所选兼容模式。
小黑日报助手会把多显示器截图作为图片数组发送,而不是拼成一张超大图。自定义网关需要正确转发多图片消息。
连接测试应该看什么
连接测试不只是判断 HTTP 200。还要检查最终请求地址、接口模式、模型名称和服务端返回的错误摘要。常见问题包括 API Key 无效、路径重复、模型不存在、响应字段不兼容和服务只监听本机其他端口。
建议先用最简单配置跑通,再逐个增加额外参数。一次加入大量厂商字段,会让错误更难定位。
本地模型与远程自定义模型的差别
本地模型通常通过 LM Studio、Ollama 兼容网关或其他推理服务运行,数据路径更可控,但需要本机算力、模型下载和进程维护。远程自定义 API 部署简单,能力和速度可能更稳定,但需要理解服务商的数据政策与计费方式。
无论哪种方式,API Key 都应只填在应用设置中,不要写进报告模板、工作记录或排错截图。修改加密派生配置或手工编辑数据库也可能导致旧密钥无法读取。
推荐配置顺序
- 明确要配置截图、报告还是概览模型;
- 从服务商文档确认接口格式和完整地址;
- 填写模型名称与凭据;
- 不加额外参数先完成连接测试;
- 用一张普通截图验证多模态能力;
- 用少量时间线记录验证报告输出;
- 最后再调整温度、推理模式和上下文相关参数。
兼容能力越灵活,配置自由度越高,也越需要按层排查。先确认用途,再确认协议,最后优化参数,是接入任意模型时最省时间的路径。