你不需要为了开始构建 AI 应用而为 LLM 推理付费。现在有几家提供商提供真正的免费 API 访问,对于学习、原型开发、副项目、黑客松和实验来说已经绰绰有余。
我觉得最令人印象深刻的是,你现在可以免费访问的模型质量和规模。根据提供商不同,你可以试用 NVIDIA Nemotron 3 Ultra、Laguna S 2.1、Mistral Medium、GPT-OSS-120B 以及最新的 Gemini 模型等模型,而无需自己托管这些巨型模型,也无需为每次 API 调用付费。
提供商 免费额度 适合用途
GroqCloud 按模型设定的每日限制 快速推理
OpenRouter 20 RPM,50 RPD 尝试多种模型
Cloudflare Workers AI 10,000 Neurons/天 无服务器 AI 应用
Mistral 免费模式, 账户特定限制 Mistral 模型
Google Gemini API 部分模型免费使用 Gemini + Gemma
1. GroqCloud
GroqCloud 可能是我第一个会推荐的免费 LLM API。
它的免费计划让你可以访问一些大得惊人的模型,包括 Groq Compound、GPT-OSS-20B、GPT-OSS-120B 和 Qwen3.6-27B。限制是按模型分别设置的,而不是所有模型共享一个总额度。
示例用法:
from groq import Groq
client = Groq()
completion = client.chat.completions.create(
model="openai/gpt-oss-120b",
messages=[
{
"role": "user",
"content": "Explain PEP 8 in one sentence."
}
],
temperature=1,
max_completion_tokens=2048,
top_p=1,
reasoning_effort="medium",
stream=True,
stop=None
)
for chunk in completion:
print(chunk.choices[0].delta.content or "", end="")
Groq 免费层级足够慷慨,可以真正构建一些东西,而不只是做少量测试调用。极快的推理速度也让它适用于聊天机器人和智能体应用,因为这些场景需要快速响应。
2. OpenRouter
当我想尝试大量不同模型,又不想为每个提供商都创建账户和 API Key 时,我会使用 OpenRouter。
它目前列出了 25+ 个免费模型,许多免费端点使用 :free 后缀。你也可以使用 openrouter/free,它会自动把你的请求路由到一个可用的免费模型,并支持你所需的能力,例如工具调用或结构化输出。
免费账户目前每天可获得 50 次请求,每分钟 20 次请求。如果你已经购买了至少 10 美元额度,免费模型的每日限制会提高到 1,000 次请求,而模型本身仍然是免费的。
import os
from openai import OpenAI
client = OpenAI(
base_url="https://openrouter.ai/api/v1",
api_key=os.environ["OPENROUTER_API_KEY"],
)
response = client.chat.completions.create(
model="nvidia/nemotron-3.5-lightning:free",
messages=[
{
"role": "user",
"content": "How many r's are in the word 'strawberry'?"
}
],
extra_body={
"reasoning": {
"enabled": True
}
},
)
message = response.choices[0].message
print(message.reasoning)
print(message.content)
OpenRouter最大的优势是模型种类丰富。当你想测试另一个模型时,不必改变整个应用,基本上可以继续使用相同的 OpenAI 兼容 API。
免费模型会随着时间轮换,所以我不会围绕某个特定的免费端点构建生产应用。不过,对于学习和比较模型来说,它很难被超越。
3. Cloudflare Workers AI
Cloudflare Workers AI 略有不同,因为它把托管 AI 模型与 Cloudflare 更广泛的无服务器开发者平台结合在一起。
每个账户目前每天免费获得 10,000 Neurons(神经元)的 AI 推理额度,并且该额度每天重置。我喜欢这种方式的地方在于,一个模型不一定非要被标为“$0”,你才能免费使用它。许多模型有正常的按 token 定价,但只要它们可在 Workers 免费计划中使用,其用量就可以由你每天的 10,000 Neurons 配额覆盖。
而且你不必局限于老旧或小型模型。Cloudflare 于 2026 年 8 月 17 日添加了 Qwen3.8-27B,这是一个 270 亿参数的视觉语言模型,具备推理、函数调用、视觉能力和 262K 上下文窗口。
示例用法:
import os
import requests
ACCOUNT_ID = os.environ["CLOUDFLARE_ACCOUNT_ID"]
API_TOKEN = os.environ["CLOUDFLARE_AUTH_TOKEN"]
response = requests.post(
f"https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/run/"
"@cf/qwen/qwen3.8-27b",
headers={
"Authorization": f"Bearer {API_TOKEN}"
},
json={
"messages": [
{
"role": "user",
"content": (
"Write a Python function that reverses "
"a string without using slicing."
),
}
],
"max_tokens": 1024,
},
)
print(response.json()["result"]["choices"][0]["message"]["content"])
如果你想做的不仅仅是调用 LLM,我会推荐 Cloudflare。你可以把 Workers AI 与 Workers、AI Gateway、Vectorize 以及其他 Cloudflare 服务结合起来,构建完整的无服务器 AI 应用。
需要注意的限制条件是,并非所有模型都可供免费账户使用。Cloudflare 目前要求使用 Workers 付费计划才能访问少数资源密集型模型,包括 Kimi K2.6、Kimi K2.7 Code 和 GLM-5.2。但许多其他能力不错的模型仍然可以在免费配额下使用。
4. Mistral
Mistral 的免费方案比较有意思,因为它的 Free 计划目前每月包含 10 美元 API 额度,而且开始使用 Mistral Studio 不需要信用卡。
重要的一点是,这并不局限于某一个免费模型。相反,这 10 美元额度可用于你账户在 Studio 中可用的 Mistral 模型的 API 用量,包括通常按 token 定价的较新模型。
Mistral 的 Free 计划还让你有限度地访问 Vibe Code,这是它的智能体编程环境。Vibe 可以从终端、IDE 或 Web 中工作,能够检查代码库、进行修改、运行命令,并推进开发任务。
我特别喜欢的一点是,每月用量在 Studio、API 和 Vibe Code 之间共享。这意味着同一份免费额度既可以用于直接通过 API 试验模型,也可以用于体验智能体编程工作流。
5. Google Gemini API
Google Gemini API 拥有最强的免费 API 方案之一,尤其是现在连较新的模型都可以通过 Free Tier 使用。
例如,Gemini 3.7 Flash 目前在 Free Tier 中输入和输出 token 都免费。它也是 Google 在编程、智能体工作流和多模态推理方面能力最强的 Flash 模型,拥有 100 万 token 上下文窗口,并支持最多 64K 输出 token。
Google 现在推荐使用其较新的 Interactions API 来构建 Gemini 模型和智能体。
示例用法:
import os
from google import genai
client = genai.Client(
api_key=os.environ["GOOGLE_API_KEY"]
)
interaction = client.interactions.create(
model="gemini-3.7-flash",
input="What is the latest stable version of Python?",
generation_config={
"max_output_tokens": 65536,
"top_p": 0.95,
"thinking_level": "medium",
},
)
print(interaction.output_text)
摘自Abid Ali Awan(@1abidaliawan)是一位认证数据科学家专业人士,喜欢构建机器学习模型。目前,他专注于内容创作以及撰写有关机器学习与数据科学技术的博客。Abid 拥有技术管理硕士学位和电信工程学士学位。他的愿景是利用图神经网络为学生构建一个 AI 产品,帮助那些与心理健康问题作斗争的学生。