• 架构并实现了支撑千万级智能设备接入的“IoT时序数据实时处理平台”。平台基于Apache Kafka承接设备消息，通过Flink进行实时清洗、聚合、异常检测，并持久化至TimescaleDB和Apache Druid，为客户提供了从设备监控、实时告警到时序分析的端到端能力。
• 主导设计“自适应乱序处理”框架，针对物联网网络不稳定的特点，通过watermark机制和自定义延迟处理逻辑，完美解决了设备数据乱序到达的问题，保障了时间窗口计算的准确性，数据准确率高达99.99%。
• 研发实现“实时设备故障预测”模型，基于流式数据实时计算设备的健康指标，并利用机器学习算法预测潜在故障，提前数小时触发预警，将客户设备的非计划停机时间减少了70%，该功能成为产品的核心竞争力。
• 针对海量小文件的挑战，研发了“微批量化写入”优化器，将对时序数据库的写入从逐条写入合并为批量写入，吞吐量提升20倍，并显著降低了数据库负载。

• 领导​​8人​​团队负责公司级实时数据中台建设，规划技术演进路线，平台日均处理​​万亿级​​消息，支撑搜索、广告、用户增长等​​10+​​ 核心业务。
• 主导研发​​低代码实时计算平台​​，通过拖拽配置生成Flink SQL作业，将简单需求的开发周期从​​1周缩短至1天​​，极大降低使用门槛。
• 引入并实践​​Apache Doris​​作为实时OLAP查询引擎，替代原有ES方案，复杂查询性能提升​​10倍​​，成本降低​​50%​​。
• 建立实时数据质量保障体系，通过波动率、重复率、延迟率等指标进行监控，数据质量事故率下降​​80%​​，获得业务部门好评。

用户行为全链路实时分析平台搭建

• 项目背景：公司为提升内容运营与算法推荐的实时性，需解决原有离线分析系统「小时级延迟」的痛点——无法及时捕捉用户看剧、弹幕互动、分享等行为的动态趋势，导致热门内容跟进慢、推荐模型迭代滞后。核心目标是通过实时数据处理平台，实现用户行为数据的秒级采集、计算与输出，支撑运营决策与算法优化。我作为项目总负责人，主导从需求调研、技术选型到落地推广的全流程。
• 关键难题：①多源数据实时接入的异构问题——APP、小程序、TV端及后台系统的用户行为数据格式差异大，直接接入会导致计算逻辑混乱；②低延迟下的状态一致性——用户连续行为（如“观看→点赞→分享”）需关联分析，传统实时引擎的状态管理易出现丢数据或延迟；③高并发场景的性能瓶颈——峰值时每秒需处理15万+事件，现有集群无法承载。
• 核心行动与创新：1. 设计「统一数据接入层」：基于Avro Schema Registry规范多源数据格式，通过Kafka Connect实现自动化的Schema演化与数据校验，解决了异构数据的兼容问题；2. 优化Flink实时计算链路：采用RocksDB状态后端结合增量Checkpoint机制，保障用户行为序列的状态一致性，同时将窗口函数从「滚动窗口」调整为「滑动窗口（1分钟窗口，10秒滑动）」，既保留实时性又避免重复计算；3. 集群性能调优：通过Flink TaskManager的资源动态分配（基于YARN的Capacity Scheduler），将并行度从32提升至64，结合ClickHouse的分布式表引擎优化查询性能，最终实现秒级延迟。
• 项目成果：平台上线后，数据处理延迟从60分钟降至5秒内，峰值吞吐量达18万事件/秒；运营团队可实时监控「剧集热度趋势」「用户互动热点」，将热门内容推荐调整周期从1天缩短至1小时，单部剧集的点击率提升22%；算法团队基于实时行为数据优化推荐模型，用户次日留存率提升15%。我个人主导的技术方案被纳入公司实时计算标准规范，覆盖后续3个业务线的实时需求。

内容生产全链路数据中台建设

• 项目背景：公司内容生产部门（剧本、拍摄、剪辑、上线）长期存在数据孤岛——剧本管理系统（存储选题、梗概）、拍摄管理系统（记录场次、镜头）、上线系统（统计播放量）的数据无法打通，导致选题重复、制作周期不可控（如某剧集因剧本与拍摄素材匹配问题返工2次）。核心目标是搭建内容生产数据中台，整合全链路数据，支撑数据驱动的内容决策。我负责数据整合、模型设计与质量管控模块。
• 关键难题：①跨系统数据打通——各系统采用不同的数据库（MySQL、MongoDB、SQL Server），数据格式与元数据不一致；②数据质量保障——内容生产数据存在大量缺失值（如拍摄环节的“镜头时长”缺失率达30%）、重复值（如同一剧本的不同版本编号混乱）；③业务语义落地——技术人员需将“剧本相似度”“拍摄效率”等业务指标转化为可计算的数据模型。
• 核心行动与创新：1. 构建「内容生产数据模型」：基于Kimball维度建模，设计「剧本维度表」（包含题材、编剧、IP来源）、「拍摄事实表」（包含场次、镜头数、耗时）、「上线事实表」（包含播放量、弹幕数），整合了5个业务系统的数据；2. 建立元数据管理体系：引入Apache Atlas管理数据血缘与元数据，定义「内容生产元数据标准」（如“剧本ID”为唯一标识），解决了数据不一致问题；3. 数据质量闭环：通过Hive UDF开发数据校验规则（如“镜头时长”缺失则触发补录流程），结合Atlas的 lineage 功能追踪质量问题源头，将数据准确率从70%提升至95%。
• 项目成果：数据中台整合了80%的内容生产数据，形成「选题-拍摄-上线」的全链路数据看板。内容生产团队通过看板发现“悬疑题材剧本的拍摄周期比平均长20%”，调整了拍摄资源分配，整体制作周期缩短18%；选题重复率从15%降至5%，单部剧集的内容成本降低12%。我个人主导的数据质量体系成为公司数据资产的标杆规范，后续被推广至运营、算法等业务线。