请先登录

英伟达免费模型

61 字

英伟达免费模型

1.核心概念

NIM全称NVIDIA Inference Microservices,英伟达的模型推理平台。通俗点讲,就是个模型超市。上面不仅有Llama、Mistral、Gemma这些国外主流开源模型,还上架了智谱的GLM-5和月之暗面的Kimi K2.5等国内主流开源模型。

image

2.安装步骤

整个流程就三块:注册账号、拿API Key、配客户端。

2.1注册账号

打开http://build.nvidia.com,右上角点Login。输邮箱、设密码、Create Account。邮箱会收到6位验证码,填进去。起个账户名,搞定。

image

注意:页面右上角有个Verify,必须点。然后输手机号验证。国内+86号码也支持。

2.2生成API Key

登录后,点右上角头像 → API Keys。

image

点击 Generate API Key。

image

给Key起个名字,过期时间调成"Never",也就是100年。

image

点Generate Key,你会拿到一串nvapi-xxx开头的字符串。

image

点击Copy API Key,便于后面使用。 它能调用NIM上所有免费模型。

2.3下载 Cherry Studio

官网:https://www.cherry-ai.com/

image

2.4配置模型

打开Cherry Studio,左下角点设置,模型服务选择"NVIDIA"。

配置参数:

·API密钥:粘贴刚才复制的nvapi-xxx

·API地址:https://integrate.api.nvidia.com

·模型ID:z-ai/glm5 - moonshotai/kimi-k2.5 - minimaxai/minimax-m2.5

image

保存,即可以开始对话了。

2.5.测试效果

Cherry Studio 比较便捷的聊天窗口可以选择模型进行对话,勾选模型即可。

image

image

效果还不错