跳到主内容
Vertex GatewayGEMINI · LOCAL CONSOLE

LOCAL ACCESS

进入本地控制台

输入网关密钥,管理你的 Vertex 连接。

仅在本机访问。密钥不会保存到浏览器存储。

Vertex GatewaySTREAMING CONSOLE

工作空间

MODEL LIBRARY正在读取模型正常 · 非流式 · 流式抗截断
正在连接仅限本机 · 127.0.0.1
0.8

GATEWAY OPERATIONS

总览

本地控制台

每一段回复,都有迹可循。

管理 Vertex 连接,查看流式传输与正文还原状态。

等待配置

连接你的 Vertex 项目

填写凭据并保存,即可向本地网关发送请求。

网关状态待配置尚未启动服务
近期请求0当前进程 · 最近 200 条
已还原正文0根据抗截断传输元数据
服务等级Standard实际档位:尚无上游记录

客户端接入

OPENAI COMPATIBLE

将以下地址填入 SillyTavern 或其他兼容客户端。

API BASE URLhttp://127.0.0.1:4781/v1

API Key 使用本地网关密钥。刷新客户端模型列表后,选择保存的版本。

当前连接

已应用
鉴权方式
未配置
项目 ID
—
地区
global
模型版本
—

最近请求

配置你的连接

选择鉴权方式与服务等级,保存后立即用于新的请求。

尚未保存

01 Google Cloud 鉴权

鉴权方式

填写目标 Google Cloud 项目 ID,可与服务账号所属项目不同。

小写,例如 us-central1。Express、Flex 和 Priority 使用 global。

私钥用于本机签名。已保存的凭据不回显,留空则保留。

使用 Express 全局端点,项目 ID 仅作备注,不参与请求路由。已保存后留空保留。

令牌过期后需手动更新;长期使用建议选择服务账号。

02 服务等级与传输

服务等级
使用标准档位,不自动升级服务等级。

已有工具调用或结构化输出会跳过包装。若预设也有同类脚本,只保留一处包装。

03 本地网关

仅监听 127.0.0.1,与控制台端口分开。

单次请求从开始到回复结束的总时长上限(含流式输出),默认 600 秒;长回复或 Flex 可调高。

用于客户端接入和下次登录。生成后请复制保存;已保存的密钥不回显。

04 SillyTavern 兼容与重试

独立网关共用一套凭据。修正凭据后保存并应用,即可重新判断;模型列表不会触发推理探测。

与 Unicode 互斥。文字转图片(无损 WebP)会增加用量,图片会触发抗截断缓冲回退。超限或不支持的字符会报错。

先填写文本才能启用。文本插入在开头的 system / developer 消息之后、其余对话之前。仅重试时发送,会增加输入用量和等待时间;不会写入日志。

0 字符 · 0 UTF-8 字节

留空使用默认规则。不区分大小写,包含这段文字即命中。只检查上游的拒绝信息:错误信息、兼容接口的拒答(refusal)和原生接口的提示词拦截原因(例如 PROHIBITED_CONTENT),不检查正常生成的正文。命中后只重试这一次,仍失败则返回错误。最多 32 行,每行不超过 500 个字符。

CONNECTION PREVIEW

待应用连接

鉴权
完整模式
服务等级
Standard
地区
global
本地端口
4781

保存前会在本机校验配置。保存与启动不会发起模型推理。

配置保存在用户目录,密钥和服务账号不会回传到页面。

关于实际服务等级

所选档位随请求发给 Google。是否可用由模型和账户决定,实际档位以响应中的 traffic_type 为准。

Flex 文档 ↗Priority 文档 ↗
配置已同步新请求使用新配置,进行中的回复继续完成。

一个模型,多种使用方式。

从 Google 目录添加模型,为每个版本保存独立的客户端名称。

0 个版本

01 选择上游模型

使用“连接配置”中当前填写的凭据读取 Google 模型目录,不发送推理请求。

尚未拉取。也可以手动填写模型 ID。

你的模型目录

填写连接凭据后,点击“拉取 Model List”。

要添加的版本

支持 gemini-… 或 google/gemini-…;使用上方勾选的版本。

目录是 Google 发布的模型元数据,不代表项目、地区或 Flex / Priority 已获授权。Express 的目录接口可能不可用,可手动添加模型 ID 或使用服务账号拉取。

02 保存的模型版本

客户端通过名称选择

可修改名称、上游模型和模式。保存后,客户端刷新模型列表即可选择。

已有工具调用、工具历史或结构化输出会跳过抗截断包装。流式参数支持取决于上游模型;失败时不会自动改换版本。

配置已同步一起保存连接配置与模型列表。新请求立即生效。

请求与还原记录

仅记录状态元数据。最近 200 条,关闭控制台后清空。

检查连接与流式还原

先确认配置,再按需发送一条短请求。

测试请求

最多 512 TOKENS

固定提示词:写三行关于河流的短句。

测试将使用已应用的凭据与服务等级发送一次真实请求,可能产生 Google Cloud 费用。

响应结果

尚未测试
测试完成后,在这里查看回复。
VERTEX GATEWAY / LOCAL FIRST抗截断传输恢复已收到的正文,不保证模型输出完整。