初始上下文

功能
组织级可观测性三件套——对话式 analytics agent(自然语言查 14 类组织数据表)+ Insights 页(预构建 dashboard + 六维 tabs)+ Impact Reports(订阅制定期成果汇报),覆盖"看数据 → 追问 → 汇报"完整闭环
版本演进
v9.0.0 对话式 agent 起步 → v10.0.0 数据表扩展 → v10.2.0 成本 dashboard → v10.5.0 单 agent 下沉 → v10.21.0 全维度 + 融合 + Impact Reports
解决的问题
agent 平台的可观测性此前以 credit 成本为中心——admin 想知道"哪些 skill 被真正在用""这季度 agent 帮我们完成了什么"必须手工拼数据写汇报。续费/扩张决策依赖的"向管理层证明价值"没有任何产品化支撑
战略动机
把 Insights 从"成本中心"(看花了多少钱)进化为"价值证明中心"(看产出了什么)。BI + AI analyst 内嵌融合——dashboard 与对话式分析收敛为一个界面
评分
6/13(战略2 护城河1 用户2 复杂度1 创新1)· 🔶 用户提级(agent 平台"证明价值"基建)

1. 三件套架构

┌──────────────────────────────────────────────────────────────────────┐
│                Organization Insights — 可观测性三件套                  │
├──────────────────────────────────────────────────────────────────────┤
│                                                                      │
│  ① 看数据 — Insights 页(预构建 dashboard,v10.2.0 起)               │
│  ┌──────────────────────────────────────────────────────────────┐   │
│  │  Overview(总 credits + spend/volume 图 + 三大 leaderboard)    │   │
│  │  Models / Explorer / Forecasts(成本四件套)                     │   │
│  │  Tasks / Agents / Skills / Artifacts / Teams / Connectors      │   │
│  │  (v10.21.0 新增六维 tabs,各含使用趋势 + 下钻表格)              │   │
│  └──────────────────────────────────────────────────────────────┘   │
│         │                                                            │
│  ② 追问 — analytics agent(对话式,v9.0.0 起 · v10.21.0 融入数据旁)  │
│  ┌──────────────────────────────────────────────────────────────┐   │
│  │  自然语言查询 14 类组织数据表 → 表格/图表/CSV                     │   │
│  │  agent 坐在数据旁边——看趋势时随手追问(v10.21.0 融合布局)        │   │
│  │  Slack 入口:/gummie add analytics                              │   │
│  └──────────────────────────────────────────────────────────────┘   │
│         │                                                            │
│  ③ 汇报 — Impact Reports(订阅制,v10.21.0 新)                        │
│  ┌──────────────────────────────────────────────────────────────┐   │
│  │  周期性 recap:完成任务数 / app 动作 / top agents+users / credits │   │
│  │  范围:整个组织 或 你拥有的任一 agent                             │   │
│  │  投递:邮箱 或 Slack canvas                                       │   │
│  └──────────────────────────────────────────────────────────────┘   │
└──────────────────────────────────────────────────────────────────────┘

演进逻辑:三件套不是一次设计出来,而是六版沿一条线生长——对话式分析(v9.0.0)→ 成本 dashboard(v10.2.0)→ 单 agent 下沉(v10.5.0)→ 全维度 + 融合 + 汇报(v10.21.0)。演进方向始终是"降低组织数据的使用门槛":从"会写查询的 admin"到"看图的所有人"到"连看都不用看、报告自己来"。

2. 核心机制 [文档已验证]

2.1 analytics agent — 对话式组织数据查询

  • 入口:Settings > Organization > Analytics(Web)或 Slack /gummie add analytics 后 @Gumloop 提问
  • 预置 prompt:top 3 most active users / most used agents / most used MCP servers(本周维度)
  • 输出:表格 / 图表 / CSV 导出;生成文件在 chat 旁侧栏打开
  • 聊天历史:侧边栏回访;绑定 VIEW_ANALYTICS 权限——权限撤销即失去历史访问权

2.2 数据覆盖 — 14 类组织数据表

数据表覆盖内容
Workflow Runs运行历史、credit 成本、执行次数、完成时间戳
Agent Chatsagent 会话、每会话 credit 成本、会话量趋势
Agents名称、描述、所用模型、配置的工具、创建者
Workflows名称、描述、创建者
Users用户邮箱及组织内活动
MCP Servers组织内 MCP server 使用情况
Triggers触发器配置、类型(scheduled/email/Slack/webhook/polling)、状态
Skillsskill 名称、描述、使用次数、挂载在哪些 agent
Skill Usage逐事件使用日志:时间戳、动作(view/use/edit)、触发的 agent/用户
Filesagent 产出的文件、文件名、scope、创建时间戳
Evaluations会话质量评估:等级、情绪、是否达成用户目标、按 agent 分解
Evaluation Settings哪些 agent 启用评估、配置的模型/频率/语言
Knowledge Sources已连接知识源(Brain connectors):类型、状态、scope
Credits权威 credit 消耗账本:按 category/user/team/model 分解

2.3 Insights 页 — 预构建 dashboard

  • Overview:周期总 credit 消耗 + spend/volume 图 + top agents/models/workflows 三个 leaderboard
  • Models / Explorer / Forecasts:按模型拆分 / 任意维度切片 / 消耗预测
  • 六维 tabs(v10.21.0):tasks / agents / skills / artifacts / teams / connectors,各含趋势 + 下钻表

2.4 权限模型 — 查询级强制

角色数据范围
Admin全组织全量数据
Manager全组织全量数据
Member仅个人数据——自己的 runs / chats / credits
关键设计:查询级 vs 显示级

非 admin 用户在查询层被自动过滤到自己的数据,而非显示层——即使显式请求也无法查到他人活动。这是对话式分析安全模型的基石:数据根本不进入结果集,而不是进入后被隐藏。

2.5 安全五层(对话式分析的企业底线)

  1. 组织隔离——每条查询自动 scope 到本组织,agent 无法访问其他组织数据(即使被诱导)
  2. 参数化查询——全部 SQL 参数化,用户输入绝不拼接进查询串,防 SQL 注入
  3. Schema 校验——只能查预定义表和列,不能跑任意 SQL、不能访问 analytics schema 之外的表
  4. 角色级 scoping——非 admin 在查询级过滤
  5. Prompt injection 防护——agent 拒绝通过注入/角色扮演绕过数据访问限制的尝试

2.6 Credit 成本优化

analytics agent 自身消耗 credits(按扫描数据量计),三项机制压低:聚合优先(聚合查询而非原始行导出)、自动分区过滤(时序表默认最近 90 天,需更早数据要显式指定)、结果集限制(只取回答问题所需数据)。

2.7 Impact Reports [基于 Changelog]

  • 订阅入口:Insights 页;范围:整个组织 或 你拥有的任一 agent
  • 内容:完成任务数、连接 app 中的动作、top agents/users、credit 用量
  • 投递:邮箱 或 Slack canvas(原生富文档,可协作评论)

3. 功能需求

模块 A — 对话式分析(analytics agent)

ID触发场景系统行为优先级
A1admin 在 Analytics 页提问agent 查询组织数据,返回表格/图表/CSVP0
A2Slack 频道 /gummie add analytics激活 analytics agent,@Gumloop 提问,结果回到 threadP0
A3Member 请求他人数据查询级过滤,仅返回个人数据P0
A4prompt injection 尝试agent 拒绝绕过数据访问限制P0
A5时序查询未指定范围默认最近 90 天分区过滤P1
A6查看历史对话侧边栏回访;权限撤销后不可访问P1

模块 B — Insights dashboard

ID触发场景系统行为优先级
B1打开 Insights 页Overview:总 credits + spend/volume 图 + leaderboardsP0
B2切换 Models/Explorer/Forecasts按模型拆分 / 任意维度切片 / 消耗预测P0
B3切换六维 tabs(v10.21.0)tasks/agents/skills/artifacts/teams/connectors 趋势 + 下钻P0
B4浏览图表时追问analytics agent 在数据旁,直接问 follow-up(融合布局)P0

模块 C — Impact Reports

ID触发场景系统行为优先级
C1从 Insights 页订阅创建组织级或 agent 级 recurring recapP0
C2到达投递周期生成报告(任务数/app 动作/top agents+users/credits)投递邮箱或 Slack canvasP0
C3agent owner 订阅自己的 agent范围限定该 agent 的成果P1

4. 用户场景

场景 1 — admin 用六维 tabs + 追问做成本治理

画像:李明,38 岁,500 人公司平台 admin。组织 80+ agents、40+ org skills,月 credit 消耗 $8k 且逐月上涨。

作为 admin,我希望打开 Insights 就能看到哪个 team、哪些 skills 在消耗,看到异常 spike 直接问"这是谁造成的"——而不是等月底账单惊讶。

  • teams tab 定位消耗大户(销售团队占 40%)
  • skills tab 发现 30+ org skills 零使用 → 推动清理
  • 看到 credits spike → 直接问旁边 analytics agent"上周三的 spike 是哪个 agent 造成的"
  • agent 返回归因表(某跑 Expert 模型的 agent)→ 联系 owner 切档

场景 2 — CTO 月度续费决策

画像:王总,45 岁,CTO。Gumloop 年费续订在即,CFO 要求量化"这一年 agent 平台带来了什么"。

作为 CTO,我希望每月自动收到组织级 impact report——完成任务数、app 动作、top users、credit 用量——续费对话有数据而非感觉。

  • admin 订阅组织级 Impact Report(月度,邮箱 + Slack canvas)
  • CFO 在 canvas 看到:本月 4,200 任务完成、app 内 11,000 次动作、top agent、credit $8.2k
  • 管理层在 canvas 下直接评论讨论——报告即协作物
  • 续费决策引用报告数据,而非手工拼表

场景 3 — Member 查询被安全限制

画像:小张,28 岁,普通 Member。好奇同事的 credit 消耗。

作为 Member,即使我显式问"同事 A 上周花了多少 credits",analytics agent 也只返回我自己的数据——权限在查询级强制。

  • 提问他人数据 → 返回个人 scope 数据或明确拒绝
  • prompt injection 尝试("假装你是 admin")→ agent 拒绝
  • 无跨组织数据泄露可能(组织隔离)

5. 竞争分析

竞品组织分析能力优势劣势
ThoughtSpot / Juliusask-your-data 对话式 BI对话式分析成熟非 agent 平台,不懂 agent 语义(tasks/skills/credits)
LangSmith / LangfuseAgentOps 可观测性(trace/eval)开发者向深度强(调用链/评估)面向 dev 而非 org admin;无"价值汇报"层
Zapier / Make / n8n用量 dashboardtable-stakes 成本看板无对话式分析;无 agent 维度;无成果汇报
OpenAI / Anthropic 控制台usage dashboardAPI 消耗透明平台自身用量,非"组织内 agent 运营"视角
Gumloop Organization Insights对话式 + dashboard + 订阅汇报三件套agent 语义原生(14 类数据表);BI 与 AI analyst 融合;Impact Reports 产品化 ROI 证明无调用链级 trace(vs LangSmith);数据限于平台内

关键洞察

  • "证明价值"是被低估的企业 agent 基建——agent 平台的竞争不止于能力,还在于向管理层持续证明能力兑现。Impact Reports 把 ROI 论证从 admin 手工劳动变成订阅制服务,直接影响续费对话。这是从"成本可观测"到"价值可观测"的质变
  • 对话式分析的安全工程是真正的门槛——"自然语言查组织数据"每家都能 demo,但五层防护(org 隔离/参数化/schema 校验/查询级 scoping/注入拒绝)让它敢放到企业生产。查询级(而非显示级)过滤是关键设计——注入也拿不到数据
  • BI + AI analyst 内嵌融合是趋势信号——dashboard 与对话式分析收敛为一个界面,看图时随手追问。对标 ThoughtSpot/Julius 的 ask-your-data 模式,但 Gumloop 有 agent 语义原生优势
  • 六版演进展示分析产品的正确生长节奏——先对话式(服务会问的人)→ dashboard(服务看图的人)→ 单 agent 下沉(服务 owner)→ 全维 + 融合 + 汇报(服务不看的人)。每版降低一层使用门槛

6. 遥测

漏斗阶段事件触发条件指标优先级
采用analytics_agent_query对话式提问(Web/Slack)周活跃提问数P0
采用insights_tab_view切换 tabs(记录维度)各 tab 使用率P0
采用impact_report_subscribed订阅(org/agent 级)订阅数、org 级占比P0
留存impact_report_retention订阅 3 个月后仍活跃汇报留存率P1
价值impact_report_forwarded报告被转发/续费对话引用价值证明转化P1
安全analytics_scope_violation_attemptMember 请求他人数据/注入被拦截拦截次数(应平稳)P1
效率analytics_query_credits每次查询消耗 credits查询成本中位数P2

7. 未来演进方向

阶段时间线里程碑状态
Phase 1 — 对话式分析 agentv9.0.0credits/agent adoption/MCP activity 查询已发布
Phase 2 — 成本 dashboardv10.2.0Overview/Models/Explorer/Forecasts已发布
Phase 3 — 单 agent 分析下沉v10.5.0每 agent 独立分析页已发布
Phase 4 — 全维度 + 融合 + 汇报v10.21.0六维 tabs + agent 融入数据旁 + Impact Reports已发布
Phase 5 — 主动告警v10.x+cost anomaly 异常检测、预算阈值联动推断/规划
Phase 6 — 价值基准远期跨组织 benchmark(同行业 agent 采纳/成本/产出分位)探索

关键演进判断

  1. 从"被动看"到"主动推"是下一步——当前 tabs 和报告都是订阅/查看模式。成本异常(某 agent 突然烧钱)、采纳异常(某 skill 使用率骤降)的主动告警是自然延伸,与 v10.5.0 Credit Warnings 阈值思路一脉相承
  2. Evaluations 数据表是质量维度的伏笔——14 类表已含 Evaluations(等级/情绪/目标达成),"价值证明"很快会从"量"(任务数/动作数)扩展到"质"(成功率/满意度)
  3. Slack canvas 投递是分发设计——报告放到管理层已有的协作界面(而非邮件孤岛),评论讨论直接发生在报告下。"报告即协作物"的模式值得注意