职位描述
岗位职责:
1、负责大数据平台的开发与维护工作,包括但不限于数据采集、存储、清洗、转换和加载等;
2、利用Java、Scala等编程语言进行高效的数据处理和分析;
3、设计并实现高效的分布式数据处理应用程序,提升数据处理效率和稳定性;
4、使用Hadoop、Spark、Hive、HBase等大数据开发框架和工具,进行复杂数据处理任务的开发;
5、通过ETL工具和技术,确保数据的一致性和准确性;
6、解决在大数据处理过程中遇到的技术难题,持续优化数据处理流程。
岗位要求:
1、硕士及以上学历,具有3-5年的大数据开发相关工作经验;
2、数据平台建设:参与大数据平台的架构设计、开发和维护,确保平台的稳定性和性能。
3、数据处理流程开发:设计和实现数据处理流程,包括数据采集、清洗、转换和存储,满足数据分析和应用的需求。
4、数据接口开发:开发数据接口,实现不同系统之间的数据交互和共享。
5、性能优化:对大数据处理系统进行性能优化,提高数据处理效率和质量。