把 Groq 从注册到跑通,给没碰过 API 的人
作为一个完全不懂的人,我试了一下 Groq 的云服务。先交代背景:Groq 是做 AI 芯片的,最近转型做云,叫 Neocloud,估值 35 亿美元,刚融了 3.5 亿,英伟达计划参与。说白了,就是把自家的 LPU 芯片放进数据中心,按月租给不想买显卡的人用。LPU 是什么不重要,你只要知道它跑大模型很快。
我平时管钱,代码写得不熟,所以这篇教程的角度是纯新手。每一步我都写了在屏幕上看到什么。
第一步:注册,拿钥匙
打开 console.groq.com,点右上角 Sign Up。我用 Google 账号一键登录,十秒进去。进去以后是控制台,左边菜单找到 API Keys,点进去。
按 Create API Key,名字随便填。创建完会弹出一串以 gsk_ 开头的字符串,这是你的钥匙。复制,存到备忘录。
踩坑:这串 Key 只显示一次,窗口一关就再也看不了。我当时没存,回头找半天,只能重新建一个。所以看到 gsk_ 开头的字符串,先复制下来。
拿到钥匙后,在控制台左侧点 Playground。这是网页版试用区,不用写代码。选一个模型,Groq 支持 Meta 的 Llama、Google 的 Gemma、Mistral 的 Mixtral,都是开源模型。输入框里敲一句「用三句话说明什么是资产配置」,点运行,几秒出结果。我这边测下来,响应速度明显比我用过的别家云服务流畅。
第二步:让代码自己调用
Playground 跑通,下一步是用 Python 调。
打开终端(Mac 的 Terminal、Windows 的 PowerShell),输入:
pip install groq
新建一个文件 test.py,粘这段代码:
from groq import Groq
client = Groq(api_key="粘贴你的密钥")
response = client.chat.completions.create(
model="模型名",
messages=[{"role": "user", "content": "用三句话说明什么是资产配置"}]
)
print(response.choices[0].message.content)
运行 python test.py。正常的话,终端会打出三句中文。代码里的模型名在 Playground 页面上能看到,换别的模型把名字改一下就行。
踩坑:看到 ModuleNotFoundError,一般是 Python 环境没找对。把 pip 换成 pip3,或者开个虚拟环境。还有一个更深的坑:API Key 写死在代码里没关系,但别把代码传到 GitHub,钥匙会泄露。我后来改成读环境变量,新手先写死,能跑就行。
效果和一点看法
完整走一遍,注册到跑通,大约半小时。GroqCloud 现在有三十多万开发者,入口做得顺,对新手友好。它的估值从去年 9 月的 69 亿砍到 35 亿,英伟达拿了授权也挖走了核心团队。短线看不清,但 LPU 专做推理,和英伟达的 GPU 训练生态不是一回事,Neocloud 这条路能不能走通,得看后面的运营。
学完这个,下一步可以试试在 Playground 里把同一句话换到不同模型上,比较输出差异。也可以加长 messages 列表,让 AI 记住上下文。跑通这些,你对 API 是怎么工作的就有体感了。
物界前沿