AnythingLLM


在 AnythingLLM 中通过 OpenAI 兼容 API 接入 iCreat

AnythingLLM 是支持 RAG 的本地 LLM 应用,可私有化部署。通过 OpenAI 兼容 API,你可以将 iCreat 配置为自定义 LLM 供应商。

前提条件

  • 已在 iCreat 创建 API Key(下文以 <sk-your-token> 占位)
  • 已部署或安装 AnythingLLM
  • 网络可访问 https://api.icreat.ai

集成步骤

  1. 启动 AnythingLLM
  2. 进入「设置」→「LLM 配置」(或「偏好设置」)
  3. 选择「自定义 API」或「OpenAI 兼容」
  4. 填写必需字段:
配置项 填写值
端点 https://api.icreat.ai/v1/llm
API 密钥 你的 iCreat API Key(<sk-your-token>
模型名称 gpt-5.6(或你想使用的模型 ID)
  1. 点击「测试连接」验证设置
  2. 点击「保存」并重启 AnythingLLM

高级配置(config.json)

高级用户可以直接编辑 AnythingLLM 的配置文件:

{
  "llm": {
    "provider": "openai-compatible",
    "endpoint": "https://api.icreat.ai/v1/llm",
    "model": "gpt-5.6",
    "apiKey": "<sk-your-token>",
    "temperature": 0.7,
    "maxTokens": 2048,
    "timeout": 30000
  }
}

安全提示

请勿将含真实 API Key 的配置文件提交到 Git 仓库。生产环境建议使用环境变量或密钥管理服务。

验证连接

配置完成后,在 AnythingLLM 中发送测试消息。正常情况下,几秒内即可收到 iCreat 所选模型的回复。也可在 iCreat 控制台「使用日志」中查看调用记录。

更多资源