露天煤矿安全生产大数据存储与流式计算技术
来源期刊:工矿自动化2021年第S1期
论文作者:荣宝 魏德志 于海成 杨楠
关键词:露天煤矿;大数据存储;流式计算;Kafka;Flink;
摘 要:从分析宝日希勒露天煤矿智能运输安全生产监控系统数据存储及计算存在的主要问题入手,研究并确立了宝日希勒露天煤矿安全生产大数据存储与流式计算的技术架构。采用分布式消息系统Kafka进行数据存储,采用流计算引擎Flink进行数据计算,针对实时数据、历史数据、业务数据的存储需求,分别采用Redis数据库、Elasticsearch、PostgreSQL进行数据存储。通过在宝日希勒露天煤矿智能运安全生产监控系统中的应用,验证了大数据存储与流式计算技术的可行性、高效性、可靠性。
荣宝1,魏德志1,于海成1,杨楠2
1. 神华宝日希勒能源有限公司2. 航天重型工程装备有限公司
摘 要:从分析宝日希勒露天煤矿智能运输安全生产监控系统数据存储及计算存在的主要问题入手,研究并确立了宝日希勒露天煤矿安全生产大数据存储与流式计算的技术架构。采用分布式消息系统Kafka进行数据存储,采用流计算引擎Flink进行数据计算,针对实时数据、历史数据、业务数据的存储需求,分别采用Redis数据库、Elasticsearch、PostgreSQL进行数据存储。通过在宝日希勒露天煤矿智能运安全生产监控系统中的应用,验证了大数据存储与流式计算技术的可行性、高效性、可靠性。
关键词:露天煤矿;大数据存储;流式计算;Kafka;Flink;