项目描述
翻译我们的数据分散在各处,根本没有集中在一个地方。销售在 CRM 中,订单在账单中,广告支出在平台仪表板中,产品事件在单独的分析中,财务保持自己的电子表格。每当出现一个简单的问题——我们从某个特定活动中真正赚了多少钱,或者上个季度哪些客户流失了——分析师需要花费两天时间进行导出,手动匹配标识符,并希望总和能够相加。我们想要停止这种情况。该项目的目标是建立一个单一的云数据仓库,Snowflake 或 BigQuery,成为所有查询的可信来源。
我们正在寻找一位工程师,设计并构建整个管道,从头到尾。它从加载开始:每个来源需要按照可靠的时间表导入仓库——通过现成的连接器或在没有连接器的情况下通过自定义导出——并仔细处理增量加载和变更历史。在原始层之上,数据应使用 dbt 进行适当组织:清理和标准化每个来源的暂存模型,带有连接和去重的中间模型,以及使用业务语言的清晰数据集。测试、文档和版本控制是交付的一部分,而不是后续完成的内容,以确保转换过程透明且可以安全更改。
最后一部分是一个语义层,包含关键指标的约定定义:收入、活跃用户、利润率、留存率——以便在所有报告中相同的数字意味着相同的含义。接下来,我们需要将我们的 BI 工具连接到这些准备好的模型,并组装几个起始仪表板,以证明仓库的有效性,并为分析团队提供进一步发展的基础。请描述您对建模的看法,您将如何控制成本,以及初始构建大约需要多长时间。
— 分散的来源:CRM、账单、广告仪表板、产品事件、财务电子表格
— 仓库:Snowflake 或 BigQuery,您的推荐及其理由
— 带有测试、文档和版本控制的 dbt 模型
— 具有约定指标定义的语义层
— BI 连接和几个起始仪表板
我们正在寻找一位工程师,设计并构建整个管道,从头到尾。它从加载开始:每个来源需要按照可靠的时间表导入仓库——通过现成的连接器或在没有连接器的情况下通过自定义导出——并仔细处理增量加载和变更历史。在原始层之上,数据应使用 dbt 进行适当组织:清理和标准化每个来源的暂存模型,带有连接和去重的中间模型,以及使用业务语言的清晰数据集。测试、文档和版本控制是交付的一部分,而不是后续完成的内容,以确保转换过程透明且可以安全更改。
最后一部分是一个语义层,包含关键指标的约定定义:收入、活跃用户、利润率、留存率——以便在所有报告中相同的数字意味着相同的含义。接下来,我们需要将我们的 BI 工具连接到这些准备好的模型,并组装几个起始仪表板,以证明仓库的有效性,并为分析团队提供进一步发展的基础。请描述您对建模的看法,您将如何控制成本,以及初始构建大约需要多长时间。
— 分散的来源:CRM、账单、广告仪表板、产品事件、财务电子表格
— 仓库:Snowflake 或 BigQuery,您的推荐及其理由
— 带有测试、文档和版本控制的 dbt 模型
— 具有约定指标定义的语义层
— BI 连接和几个起始仪表板
其他 / 杂项 现金, 银行转账