在人工智能应用的实践中,个人和企业常面临技术门槛高、模型选择受限、数据处理复杂、协作管理难、部署耗时长等难题。一站式获得多模型兼容、多数据处理、多用户协作等能力,将有效解决以上难题。基石智算CoresHub 凭借高度标准化的平台与应用集成,让用户能够构建便捷、灵活的开发环境,快速获得所需的模型与 AI 应用。
本文将以青云科技旗下AI算力云——基石智算大模型服务中的 DeepSeek-V3 为例,向用户介绍如何在 AnythingLLM 中调用相应模型,部署自己的 AI 应用。
步骤一:获取 API 密钥和域名
注册并登录基石智算。
在顶部导航栏,选择产品与服务 > 大模型服务 > 大模型服务平台。
进入大模型服务管理页面,在左侧导航栏中选择 API 密钥管理,创建并获取 API 密钥。
说明:
若平台内无可用的 API 密钥,用户可参考创建和获取新的 API 密钥。
若平台内已有可用的 API 密钥,用户可直接将鼠标悬停在指定密钥上,点击 API 密钥右侧的复制按钮,即可获取完整的 API 密钥。
用户可在左侧导航栏选择在线推理服务,点击目标模型卡片页中的 API 文档,查看预置模型 API 服务接口路径,即为模型的 API 域名。
说明:当前平台上的预置模型的 API 域名为,用户可直接使用无需修改。
步骤二:安装和使用 AnythingLLM
访问 AnythingLLM 官网,下载并安装客户端。
注意
用户根据本地电脑自行选择相应的安装包下载即可。
本实践中使用 MacOS 系统的 AnythingLLM 客户端,其他系统的客户端界面可能存在差异,以用户下载的版本界面为准。
首次启动 AnythingLLM 客户端,直接点击开始。
进入 LLM 偏好配置页面,在大语言模型供应商(LLM Poviders)中选择 Generic OpenAI,并配置各项参数。
base URL:智算平台上的预置模型的 API 域名为,用户可直接使用无需修改。
API Key:用户在获取 API 密钥中复制得到的完整 API 密钥,需根据实际情况进行修改。
Chat Model Name:本实践中使用 DeepSeek-V3 模型。若需使用平台内其他模型,用户仅需在智算平台的在线推理服务页面,复制得到相应模型名称即可。
其他参数,用户可根据实际情况进行修改或保持默认。
依次点击下一步,完成所有配置后,按照页面提示输入 Workspace 工作区名称,进入主界面即可开始对话。
点击工作区名称右侧的上传按钮。
在弹出的新窗口中,上传相应文件,并将相应文件移动至工作区,从而加载到 AnythingLLM 的本地知识库中后,点击 Save and Embed 即可。
说明:出现 Workspace updated successfully 的提示就表示知识库配置已经完成。
在 Workspace 工作区界面中,点击 New Thread 开启新的对话,在聊天区域中提问后,AI 大模型会根据知识库中的内容进行回答。
其他操作
若用户并非第一次使用 AnythingLLM 客户端,需修改相应的大模型供应商和所使用的模型,可参考以下操作。
启动 AnythingLLM 客户端,在工作区的界面中,点击设置按钮。
在设置页面,选择人工智能提供商 > LLM 首选项,修改相应模型配置参数即可。
相关文章
2025-03-217阅读
2025-03-217阅读
2025-03-217阅读
2025-03-217阅读
2025-03-217阅读
2025-03-217阅读
2025-03-217阅读
2025-03-217阅读
2025-03-217阅读
2025-03-217阅读