英伟达免费模型
英伟达免费模型
1.核心概念
NIM全称NVIDIA Inference Microservices,英伟达的模型推理平台。通俗点讲,就是个模型超市。上面不仅有Llama、Mistral、Gemma这些国外主流开源模型,还上架了智谱的GLM-5和月之暗面的Kimi K2.5等国内主流开源模型。
2.安装步骤
整个流程就三块:注册账号、拿API Key、配客户端。
2.1注册账号
打开http://build.nvidia.com,右上角点Login。输邮箱、设密码、Create Account。邮箱会收到6位验证码,填进去。起个账户名,搞定。
注意:页面右上角有个Verify,必须点。然后输手机号验证。国内+86号码也支持。
2.2生成API Key
登录后,点右上角头像 → API Keys。
点击 Generate API Key。
给Key起个名字,过期时间调成"Never",也就是100年。
点Generate Key,你会拿到一串nvapi-xxx开头的字符串。
点击Copy API Key,便于后面使用。 它能调用NIM上所有免费模型。
2.3下载 Cherry Studio
官网:https://www.cherry-ai.com/
2.4配置模型
打开Cherry Studio,左下角点设置,模型服务选择"NVIDIA"。
配置参数:
·API密钥:粘贴刚才复制的nvapi-xxx
·API地址:https://integrate.api.nvidia.com
·模型ID:z-ai/glm5 - moonshotai/kimi-k2.5 - minimaxai/minimax-m2.5
保存,即可以开始对话了。
2.5.测试效果
Cherry Studio 比较便捷的聊天窗口可以选择模型进行对话,勾选模型即可。
效果还不错