如何使用 Google Cloud Platform 里的 Gemini (Vertex AI)

优点：

1. GCP 作为 To B^{面向组织/企业}的产品，给模型降智这点很少发生。
2. 配额限制非常高，没有每日请求次数上限（硬要说的话，有一个 30000 RPM 的请求限制），但请看缺点 2。
3. (NSFW) 本人实测 Vertex AI 渠道在这方面门槛很低，调用时 safetySettings 全设为关，被拦截的概率很小。但别忘了还有大模型内部安全对齐，所以破限多少得带点，但不用那么麻烦。（Nano banana 系列模型是例外，生成的图片仍会有额外审查且会拦截）

缺点：

1. 赠金只有 300 美元，只有90天，一个账号只有一次。
2. 除了固定的配额限制，还采用 共享池 + 动态配额，429 错误通常不是配额达到上限，而是你暂时没抢到算力资源，这也导致请求随时都可能 429（使用赠金的用户优先级很低）。整体上，白天（美国黑天）通常会流畅一些。
3. 不稳定的首 Token 时间，有可能马上响应，也有可能要等个好几分钟（和缺点 2 有很大关系）。
4. API 调用方式不方便，也不容易分享。

以上缺点基本都能用真钱消费解决，缺点 4 可以采用中转站的方式来分享。

前往导航菜单（侧边栏） → API 和服务^{APIs & Services} → 库^Library
a2896×550 40.7 KB
找到 Vertex AI API，进入后点击启用^Enable。
a3967×120 9.15 KB
a4643×242 12.1 KB
成功启用后，对应按钮会变成管理^Manage。

前往导航菜单（侧边栏） → Vertex AI → Vertex AI Studio。
你能看到熟悉的对话界面，可以直接在这里体验各种谷歌家的模型，比如对话、生图、视频等。
注意这里也会消耗赠金。

你可能发现了左下角有 获取 API 密钥。
那个本质上是 Generative Language API，和 AI Studio 是类似的东西，赠金用户属于免费层级，有严格配额限制，没什么可用的。
（如果你付费^花真钱，那么这个会变成付费层级，是可以用的）

首先确认你的 GCP 是否有组织。

a381355×495 32.5 KB

如果和图中一样，窗口左上角可以切换组织，那么就是有组织的。
GCP 账号注册后可能会自带一个组织 + 项目，也可能只有一个无组织项目。
如果你的 GCP 有组织，我个人推荐创建并使用无组织项目，省事。
如果你仍要使用组织下的项目也是可以的，只是中途会比无组织项目多几个步骤，教程也兼顾了组织下的项目。

前往导航菜单（侧边栏） → IAM 和管理^{IAM & Admin} → 服务账号^{Service Accounts}
a5482×571 28.1 KB

来到如下界面。
点击上面的 创建服务账号^{Create service account}。
a6717×364 20.4 KB

服务账号名称和 ID 随意，然后点击 创建并继续^{Create and continue}。
a7588×579 22.6 KB

然后给予角色，只是拿来调用 AI 的话，Vertex AI User 这个角色的权限已经足够。
a8540×510 19.2 KB
a9495×366 17.6 KB
然后点击 完成^Done。

[!danger]- 不要向服务账号给予 Owner 角色！
Owner 角色的权限非常高，可接管整个 GCP 项目，包括支付与结算。
若密钥泄露，后果严重！
建议只给予需要的角色，让账号只获得需要的权限。

从第 3 章结尾，创建服务账号后继续。

服务账号的密钥不是简单的一串字符，而是以下三个字段联合，缺一不可：

• 账户邮箱^{Client Email}
• 私钥^{Private Key}
• 项目 ID^{Project ID}

找到右侧 操作^Actions 下方的三个点，点击 管理密钥^{Manage keys} 继续配置密钥。
a12758×341 12 KB

点击 添加键^{Add key}，再点击 创建新密钥^{Create new key}，类型选择 JSON。
a13434×511 16.3 KB
a14492×309 8.73 KB

[!failure] 密钥创建功能已停用？
这是因为当前项目属于某个组织下，组织政策里默认禁止了密钥创建。
你可以继续在当前项目下去关闭政策，
也可以去创建一个无组织项目，然后回到第 1 章从启用 API 重新开始。

密钥创建完毕，会自动下载一个 JSON 密钥文件。
密钥文件只能下载这一次，丢了需要创建新密钥。
妥善保管，同时避免泄露！
a21801×188 4.62 KB

从第 3 章结尾，创建服务账号后继续。

如果你的项目属于某组织，则需要关闭一个组织政策，防止 API 密钥创建被阻止。
复制这个：iam.managed.disableServiceAccountApiKeyCreation
然后跟随第 3.3. 章，关闭对应组织政策后再继续。

前往导航菜单（侧边栏） → API 和服务^{APIs & Services} → 凭证^Credentials。
a39448×419 18.2 KB

点击上面的 创建凭证^{Create credentials}，选择 API 密钥^{API key}
a40587×297 16.7 KB

密钥名称随意；
先点击 通过服务账号对 API 调用进行身份验证^{Authenticate API calls through a service account}，
选择有对应角色/权限的服务账号（比如 Vertex AI User 角色），
然后选择使用 Vertex AI API，
最后点击下面的 创建^Create。
a41586×554 28.7 KB

成功后熟悉的一串密钥就创建了，通常是 AQ. 开头。
请继续跟随第 4.2. 章。

点击左上角选择项目/组织，确认属于某个组织；点击弹窗右上角的三个点，点击 组织政策^{Organization policies}
a161216×879 63.9 KB

[!failure] 组织政策显示没有权限查看？↓ 跟随 错误 1.1 再继续

进入如下画面，在过滤输入框里搜索（或粘贴之前让你复制的），可以看到有一个 强制执行状态^{Enforcement state} 为 有效^Active 的政策。
a17v21439×872 72.8 KB

点击进入那个政策，然后点击右上角的 管理政策^{Manage policy}。
a18582×559 20.9 KB

[!failure] 管理政策^{Manage policy} 按钮是灰色，无法点击？↓ 跟随 错误 1.2 再继续

政策来源^{Policy source} 改为 覆盖父资源的政策^{Override parent’s policy}。
添加规则^{Add a rule}，实施^Enforcement 选择 关闭^Off，点击右下角 完成^Done，最后点击 设置政策^{Set policy}。
a19549×685 23.7 KB
a20532×564 17.9 KB

成功后即可看到 强制执行状态^{Enforcement state} 变成了 未实施^{Not enforced}。
等待两三分钟让更改生效。

[!info] 无法拉取模型列表是正常现象
即使配置正确，列表里也拉取不了任何模型，这是正常的，Vertex AI API 不提供这个功能。
你需要手动添加模型。

Vertex AI 也是最快获取 Gemini 新模型的渠道之一。
Gemini 新模型上架后，只需查查它的模型 ID，通常都能在 Vertex AI 里使用。

查看可用模型

前往导航菜单（侧边栏） → Vertex AI → 模型库^{Model Garden}
你能看到有各种各样的模型，不仅限于 Gemini 系列。

别想得太美，别家模型（Claude 等）都不能直接用，需要申请（Google 自家的非 Gemini 系列模型也类似）；
且不说能不能申请通过，受新政策影响的账号即使申请成功了，调用别家模型也不会使用赠金（娱乐/升级账号后也一样）。
赠金用户基本就老实用用 Gemini 系列模型吧。

点击一个模型，可以查看详细信息，模型 ID 就在右侧。
这个页面的模型 ID 写得太完全了，通常添加模型时要取最后的 gemini-* 部分。
a421110×617 48.6 KB
（这一长串模型 ID 的前部分指的是用一串 API 密钥调用时的 URL 路径）

区域^Location的选择

大部分情况下选择 us-central1 即可。
如果你要使用预览模型（模型 ID 带 -preview 后缀），需要选择 global，否则会报错找不到模型。

从第 3.1. 章结尾，下载 JSON 密钥文件后继续。
如果配置界面中要求填写 JSON，那么只需打开密钥文件，把整个内容复制粘贴进去即可。
否则，你需要提取 账号邮箱、私钥和项目 ID 这些字段。

密钥文件的结构大概如下：

{ "type": "service_account", "project_id": "项目 ID", "private_key_id": "*****", "private_key": "-----BEGIN PRIVATE KEY-----\n非常长的私钥\n-----END PRIVATE KEY-----\n", "client_email": "服务账号邮箱", "client_id": "*****", "auth_uri": "https://accounts.google.com/o/oauth2/auth", "token_uri": "https://oauth2.googleapis.com/token", "auth_provider_x509_cert_url": "https://www.googleapis.com/oauth2/v1/certs", "client_x509_cert_url": "https://www.googleapis.com/robot/v1/metadata/x509/*****.iam.gserviceaccount.com", "universe_domain": "googleapis.com" }

账号邮箱对应 client_email；
私钥对应 private_key，建议完整地复制私钥，包括前后的 -----BEGIN/END PRIVATE KEY-----；
项目 ID 对应 project_id；

从第 3.2. 章结尾，获取一串 API 密钥后继续。
这章主要针对没有 Vertex AI 提供商的工具，可以用 Google 提供商 + 自定义 URL 做替代方案。

Vertex AI API 不使用原先的 generativelanguage.googleapis.com，
需要更改提供商 URL：
→ https://{区域?}-aiplatform.googleapis.com/v1/publishers/google

比如使用 us-central1 区域就是：
→ https://us-central1-aiplatform.googleapis.com/v1/publishers/google

如果是 global 区域，开头的 {区域}- 不用加：
→ https://aiplatform.googleapis.com/v1/publishers/google

URL 后面不要加上 v1娱乐a，加上会 404！建议检查工具是否会自动处理 URL。

首先安装完 Google Cloud SDK 后，
打开控制台，执行 gcloud init，
成功后会询问 You must sign in to continue. Would you like to sign in (Y/n)?，输入 Y，会弹出浏览器，登录你的 GCP 谷歌账号。

登录成功后，控制台会显示如下文字：

You are signed in as: [example@example.com]. Pick cloud project to use: [1] 项目 ID [2] 更多项目 ID... [n] Enter a project ID [n] Create a new project Please enter numeric choice or text value (must exactly match list item):

选择一个项目，输入左侧的序号。

成功后会显示这行文字：Your current project has been set to: [项目 ID].

接下来给程序创建默认凭据^ADC。
执行 gcloud auth application-default login，会再弹出浏览器，再登录一次你的 GCP 谷歌账号。

登录成功会显示这行文字：Credentials saved to file: [your\path\gcloud\application_default_credentials.json].

完成，之后通过官方 GenAI 库还是通过 SDK 调用时，都会找到默认凭据。

前往导航菜单（侧边栏） - 结算^Billing。
有新用户赠金的结算账号通常叫 我的结算账号^{My Billing Account}。
在左上角可以切换查看，查看有新用户赠金的结算账号时右下角会直接显示剩余金额和时间。
从使用到计费会有 2~5 小时的延迟。
a271252×997 73.4 KB

还有通用的方法，对所有结算账号都可用。
点击左侧的 赠金^Credits，就会显示当前的赠金。
a281270×631 30.5 KB

GCP 偶尔会有 5 美元的赠金羊毛（佬友们也会分享），领取后会新建一个结算账号。
左上角打开选择结算账号的窗口，点击 管理结算账号^{Manage billing accounts}。
a29407×277 11.6 KB

点击 您的项目^{Your projects}，若找不到项目就检查上面的组织选择是否正确。
然后点击项目右侧 操作^Actions 下方的三个点，点击 更改结算信息^{Change billing}。
a30834×401 14.1 KB

选择其他结算账号后点击 设置账号^{Set account} 即可。
a31561×291 16 KB

前往导航菜单（侧边栏） - Vertex AI → 信息中心^Dashboard。
进入后下滑页面，即可看到各模型的 Token 消耗和费用。
（gemini-3.1-pro-preview 的消耗也算在 3 Pro 里）
a321018×404 32.6 KB

移动端大概率不显示这个信息，不知什么原因（可能是视口宽度不够？）。
如果没有桌面端又想看，或者想看模型调用次数，可以跟随 其他 3.2. 的通用方法。

前往导航菜单（侧边栏） - Monitoring → Metrics Explorer。
右上角选择想查询的时间范围，右侧的 Widget 类型^{Widget type} 选择 Table，点击右上角偏下的 PromQL。
a331017×463 21.2 KB

点击 PromQL 后，左侧变成了命令输入框。
复制粘贴下面的查询命令后点击右上角的 执行查询^{Run Query} 或打开 自动运行^Auto-Run。
一个输入框只放一条命令。

查询各模型的输入/输出 Token 消耗量

sum by ("model_user_id","type")(increase({"__name__"="aiplatform.googleapis.com/publisher/online_serving/token_count","monitored_resource"="aiplatform.googleapis.com/PublisherModel"}[${__interval}]))

结果示例

a34691×574 35.1 KB

查询各模型的调用次数

sum by ("model_user_id")(increase({"__name__"="aiplatform.googleapis.com/publisher/online_serving/model_invocation_count","monitored_resource"="aiplatform.googleapis.com/PublisherModel"}[${__interval}]))

结果示例

a35691×341 16.3 KB

请求时，在请求体^{Request body}一同传入，不传的话 threshold 默认都是 OFF。

键^Key为 safetySetting；
值^Value为一个对象数组，每个对象通常都由 category 和 threshold 组成。

[ { "category": "过滤类型", "threshold": "触发阈值" } ]

过滤类型

以下四个类型在所有 Gemini 渠道都可用：
HARM_CATEGORY_HATE_SPEECH：仇恨内容
HARM_CATEGORY_DANGEROUS_CONTENT：（暴力等）危险内容
HARM_CATEGORY_HARASSMENT：（辱骂、欺凌等）侮辱内容
HARM_CATEGORY_SEXUALLY_EXPLICIT：NSFW 内容

以下五个类型仅在 Vertex AI 渠道可用，其他渠道不支持：
HARM_CATEGORY_JAILBREAK：大模型破限/越狱内容
HARM_CATEGORY_IMAGE_HATE：包含仇恨内容的图片
HARM_CATEGORY_IMAGE_DANGEROUS_CONTENT：包含危险内容的图片
HARM_CATEGORY_IMAGE_HARASSMENT：包含侮辱内容的图片
HARM_CATEGORY_IMAGE_SEXUALLY_EXPLICIT：包含 NSFW 内容的图片
（以上四个图片相关设置似乎并不作用于 Nano Banana 生图，图片照样会拦截）

触发阈值

BLOCK_LOW_AND_ABOVE：可能性低也触发
BLOCK_MEDIUM_AND_ABOVE：可能性中等也触发
BLOCK_ONLY_HIGH：仅在可能性高时触发
BLOCK_NONE：（尽可能）不触发
OFF：关闭

BLOCK_NONE 和 OFF 不代表 100% 不触发，只是把触发概率降到最低了（即使这样也比 AI Studio 的触发概率低很多）。
BLOCK_NONE 仍会在返回中带上安全评级，OFF 不会。
另外别忘了还有大模型的内部安全对齐。

详细内容可查看 官方文档 。

值的完全体：

[ { "category": "HARM_CATEGORY_HATE_SPEECH", "threshold": "OFF" }, { "category": "HARM_CATEGORY_DANGEROUS_CONTENT", "threshold": "OFF" }, { "category": "HARM_CATEGORY_HARASSMENT", "threshold": "OFF" }, { "category": "HARM_CATEGORY_SEXUALLY_EXPLICIT", "threshold": "OFF" }, { "category": "HARM_CATEGORY_JAILBREAK", "threshold": "OFF" }, { "category": "HARM_CATEGORY_IMAGE_HATE", "threshold": "OFF" }, { "category": "HARM_CATEGORY_IMAGE_DANGEROUS_CONTENT", "threshold": "OFF" }, { "category": "HARM_CATEGORY_IMAGE_HARASSMENT", "threshold": "OFF" }, { "category": "HARM_CATEGORY_IMAGE_SEXUALLY_EXPLICIT", "threshold": "OFF" } ]

请求时，在请求头^{Request header}一同传入，不传的话将使用 标准^Standard 类型。

有三种随用随付类型，分别是 灵活^Flex、标准^Standard 和 优先^Priority。

灵活 类型用更慢的响应换更低的费用倍率，优先 类型用更高的费用倍率换更快的响应。

键^Key为 X-Vertex-AI-LLM-Shared-Request-Type；
值^Value请看表格：

详细内容可查看官方文档：灵活、标准、优先 和 费用表