小黑日报助手

自定义AI模型怎么接:多种API格式兼容配置指南

小黑日报助手自定义模型支持更多接口格式、请求地址和额外参数。本文说明截图、报告与概览模型分工,OpenAI 和 Anthropic 常见兼容模式,多模态请求要求,以及从最小配置开始的连接测试方法。

自定义AI模型怎么接:多种API格式兼容配置指南

自定义AI模型怎么接:多种API格式兼容配置指南

越来越多模型服务提供“OpenAI 兼容接口”,但兼容并不代表请求路径、消息格式和返回结构完全一致。有的使用 Chat Completions,有的推荐 Responses API,还有私有服务保留 Legacy Completions 或采用 Anthropic Messages。

小黑日报助手近期扩展了自定义与本地模型兼容能力,让截图识别、报告生成和工作概览可以按用途配置,并支持更多接口格式、自定义请求地址和额外参数。

先分清三个模型用途

截图分析模型

需要真正支持图片输入,负责理解屏幕内容并生成工作记录。只支持文本的模型即使连接测试成功,也无法完成截图识别。

报告生成模型

主要处理长文本、模板和工作记录,重点是上下文容量、中文写作质量和指令遵循。它不一定需要视觉能力。

概览总结模型

用于首页工作概览等较短总结,可根据成本与速度选择轻量模型。

把不同任务交给合适模型,通常比所有入口共用一个大模型更稳定,也更容易控制成本。

常见接口格式怎么选

小黑日报助手可适配 OpenAI Chat Completions、OpenAI Responses、Legacy Completions 与 Anthropic Messages 等常见路径。选择时应以服务商官方文档为准,不要只看模型名称。

如果服务端提供完整 Base URL,先确认软件会不会自动拼接默认路径;如果厂商使用非标准路由,应填写自定义请求地址。额外参数适合传递 temperature、推理开关或厂商扩展字段,但不要重复覆盖软件必须维护的消息、模型和流式配置。

多模态截图最容易踩的坑

模型列表里出现某个名称,不代表部署实例已经启用视觉能力。连接截图模型前,应确认:

  • 接口允许图片或 base64 内容;
  • 所选模型版本支持视觉输入;
  • 网关没有删除多模态消息字段;
  • 单次请求大小允许多显示器图片;
  • 返回格式符合所选兼容模式。

小黑日报助手会把多显示器截图作为图片数组发送,而不是拼成一张超大图。自定义网关需要正确转发多图片消息。

连接测试应该看什么

连接测试不只是判断 HTTP 200。还要检查最终请求地址、接口模式、模型名称和服务端返回的错误摘要。常见问题包括 API Key 无效、路径重复、模型不存在、响应字段不兼容和服务只监听本机其他端口。

建议先用最简单配置跑通,再逐个增加额外参数。一次加入大量厂商字段,会让错误更难定位。

本地模型与远程自定义模型的差别

本地模型通常通过 LM Studio、Ollama 兼容网关或其他推理服务运行,数据路径更可控,但需要本机算力、模型下载和进程维护。远程自定义 API 部署简单,能力和速度可能更稳定,但需要理解服务商的数据政策与计费方式。

无论哪种方式,API Key 都应只填在应用设置中,不要写进报告模板、工作记录或排错截图。修改加密派生配置或手工编辑数据库也可能导致旧密钥无法读取。

推荐配置顺序

  1. 明确要配置截图、报告还是概览模型;
  2. 从服务商文档确认接口格式和完整地址;
  3. 填写模型名称与凭据;
  4. 不加额外参数先完成连接测试;
  5. 用一张普通截图验证多模态能力;
  6. 用少量时间线记录验证报告输出;
  7. 最后再调整温度、推理模式和上下文相关参数。

兼容能力越灵活,配置自由度越高,也越需要按层排查。先确认用途,再确认协议,最后优化参数,是接入任意模型时最省时间的路径。