大数据平台架构师岗位职责

大数据平台架构师岗位职责（精选18篇）

大数据平台架构师岗位职责 篇1

　　1. 负责大数据项目整体架构规划，包括应用架构、技术架构、物理架构和数据架构等;

　　2. 负责指导工程师进行技术验证与实现，核心技术问题的攻关，解决项目开发过程中的技术难题;

　　3. 负责项目对外技术沟通，具有较强的沟通，表达和文档撰写能力;

　　4. 根据公司项目和业务发展特点，负责研究相关大数据前沿技术;

　　5. 推动技术能力的沉淀。

大数据平台架构师岗位职责 篇2

　　1、负责大数据平台资源规划、权限控制、运维架构设计，为各产品业务提供稳定、高效、安全的运行环境;

　　2、负责实时，离线数据分析处理及实时平台的建设和搭建

　　3、熟悉 Flink 流式计算引擎的使用以及源码原理，并且有相关的流式处理平台的经验。

　　4、Java基础扎实，熟练掌握垃圾回收，网络，多线程编程，了解 python 或 scala

　　5、负责大数据平台技术架构、数据架构的分析与设计;

大数据平台架构师岗位职责 篇3

　　1. 负责数澜大数据平台的架构设计和研发，建立数据生态服务，解决海量数据面临的挑战;

　　2. 管理和优化Hadoop、Spark等集群，计算作业的调优，保证集群和平台的高效和稳定;

　　3. 负责Hadoop、Spark、Flink的功能、性能和扩展，解决并实现业务需求;

　　4. 负责大数据产品的自动化、离线与实时计算、即席计算、数据质量、数据安全、机器学习等平台的设计和开发;

　　5. 调研和把握当前的最新技术，将其中的先进技术引入到自己的平台中，改善产品，提升竞争力;

大数据平台架构师岗位职责 篇4

　　1、建设大数据平台，主要技术为k8s, docker;

　　2、跟进开源社区的更新，阅读文档，验证feature;

　　3、阅读容器生态圈各组件的开源项目代码，开发新功能;

　　4、持续提升平台的性能和稳定性。

大数据平台架构师岗位职责 篇5

　　1、负责公司大数据处理框架研发工作，设计与开发分布式存储、数据处理与分析架构。

　　2、负责大数据平台与产品和相关技术的追踪及研究。

　　3、负责大数据的处理工作，以及业务数据提取、加载、转换处理流程的开发和优化。

　　4、利用大数据平台工具对数据维护。

　　5、负责相关项目的技术支持和服务。

　　6、持续对系统的技术架构进行改进和优化。

大数据平台架构师岗位职责 篇6

　　职责：

　　1、搭建基于Hadoop/Spark的数据挖掘体系和大数据分析系统架构;

　　2、研究大数据领域前沿数据挖掘技术，并引入相应技术在数据中心的使用;

　　3、进行大数据系统框架设计、模型算法开发;

　　4、负责大型数据挖掘项目方案制定、项目实施落地及优化等 ;

　　5、开展数据爬取、聚类分析、舆情分析、鱼骨图分析、定价策略等领域数据挖掘工作;

　　任职资格：

　　1、本科以上学历(持有学士学位)(985，211优先)，计算机相关专业，五年工作经验;

　　2、二年以上数据挖掘项目经验，完整参与过数据挖掘大数据平台的架构开发过程，具备互联网行业背景优先;

　　3、精通分布式计算框架(hadoop、spark、Storm等)及相关经验，熟练掌握Hive/SQL，Python，熟悉Python、R相关数值科学计算库(NumPy,SciPy等);

　　4、了解传统的BI/DW 理论，能结合传统BI实践设计大数据平台;

　　5、熟悉常用机器学习算法(如分类、回归、聚类、关联规则等)及其原理，具备应用场景经验，如用户画像、商品关联度分析、舆情分析;

　　6、熟悉主数据、元数据、数据质量、和数据建模等数据治理相关的体系和方法;

　　7、具备较强的逻辑思维能力、数据敏感度，擅于利用数据发现问题及解决问题;

大数据平台架构师岗位职责 篇7

　　职责：

　　1、负责DMP技术架构设计与构建，根据业务规划及技术规划制定应用架构方案;

　　2、负责设计构建DMP数据采集、存储及分析框架，设计数据处理的技术流程和规范;

　　3、负责核心功能的架构与代码模板编写，开发与维护系统公用核心模块;

　　4、负责基于大数据技术的海量数据的自动化分析处理和统计工作。

　　岗位要求：

　　1、计算机或相关专业本科以上学历，三年以上的开发经验，二年以上大数据相关软件架构的实际经验;

　　2、精通大数据处理技术，熟悉Hadoop/Storm技术体系，有Hadoop、Hive、Hbase项目经验;

　　3、具有较强的架构能力，具有分布式计算、实时计算、数据仓库、数据挖掘系统的架构经历优先;

　　4、对数据敏感，洞察力强，了解国内外广告发展趋势;

　　5.、擅长系统分析与设计，精通常用的设计模式，擅长性能调优;

　　6、熟悉DMP/RTB技术原理，了解用户的行为分析及建模;有RTB/DSP/SSP/EXCHANGE/DMP等广告行业从业经历。

大数据平台架构师岗位职责 篇8

　　职责：

　　负责公司大数据产品架构的设计与实现;

　　配合大数据产品经理完成产品的快速研发与交付;

　　负责大数据产品架构的持续优化设计;

　　负责大数据产品核心组件设计;

　　负责大数据相关数据架构规划、数据建模、数据库设计以及大数据产品研发工作;

　　为应用开发团队提供技术支撑。

　　及时向上级反馈工作进度、遇到的问题或者对现有工作的建议等;

　　完成上级领导交办的其它各项工作。

　　任职资格：

　　985/211本科及以上学历，3年以上的大数据开发经验、

　　2年以上大数据架构设计经验;

　　丰富的JAVA研发经验，精通JAVA，熟悉Python Scala等编程语言;具备深厚的分布式系统或数据库系统的理论基础，熟悉分布式计算系统的工作机制，具有分布式文件系统、分布式数据库系统、集群存储系统等架构设计经验;

　　熟悉整个大数据的完整处理流程(数据的采集、清洗、预处理、存储、分析挖掘、机器学习和数据可视化);

　　精通各种大数据相关技术体系：Hadoop、Spark、Storm、ElasticSearch、Kafka;

　　有数据挖掘、机器学习相关应用或研究背景;

　　沟通能力较好，积极主动意识较强，责任心较强。

　　具备优秀的逻辑思维能力，对解决挑战性问题充满热情，善于解决问题和分析问题;

　　良好的团队合作精神，较强的沟通能力和学习能力 ;

大数据平台架构师岗位职责 篇9

　　职责:

　　1、对业务需求深入分析，从而进行大数据平台核心应用的架构设计、开发和技术支持;

　　2、规划业务应用系统和基础平台的技术架构，参与需求分析、建模、架构设计、技术决策以及详细设计;

　　3、把握复杂系统的设计，确保系统的架构质量，编写核心部分代码;

　　4、带领团队攻克例如大数据量、高并发、高稳定性等带来的各种挑战及技术难关;

　　5、在大数据平台建设路线图指导下，进行架构实施和交付物投递，同时确保研发质量和方向的准确性;

　　6、进行团队技术的培训和梯队建设岗位要求;

　　任职条件:

　　1、本科或以上学历，计算机相关专业，8年以上研发经验，3年以上大数据平台相关工作经验;

　　2、精通Java开发技术，熟悉Shell、Scala语言和PYTHON优先;

　　3、编程基础扎实，熟悉I/O、多线程、集群等基础框架和原理，熟悉分布式、缓存、消息等机制;

　　4、熟悉常用设计模式，代码评审规则，单元测试，持续集成;

　　5、熟悉AWS云服务或阿里云服务;

　　6、熟悉容器技术原理、生态系统，熟悉Docker、Mesos、Kubernetes等容器系统、大规模容器资源调度系统、分布式应用生命周期。

大数据平台架构师岗位职责 篇10

　　职责：

　　1. 负责大数据基础平台、海量数据存储/处理分布式平台、数据分析系统架构设计和研发;

　　2. 负责实时计算平台基础架构设计、部署、监控、优化升级;

　　3. 制定项目/数据仓库设计及实现规范，指导设计研发和部署;

　　4. 协助策略和算法团队工作，保障数据挖掘建模和工程化;

　　5. 深入研究大数据相关技术和产品，跟进业界先进技术。

　　任职要求：

　　1. 全日制本科及以上学历，5年以上软件和分布式系统研发经验，3年以上大数据系统架构经验;

　　2. 精通Hadoop/HBase/Spark/Storm/Redis技术及其生态圈;

　　3. 具备Java/C++/Scala等开发经验，熟悉数据挖掘和分析的策略与算法;

　　4. 具备良好的系统分析能力、故障诊断能力;

　　5. 有大数据策略、算法、可视化经验优先;

　　6、211/985 重点学校毕业优先。

大数据平台架构师岗位职责 篇11

　　职责：

　　1、负责公司的大数据处理框架的研发设计工作，梳理可实现方案和技术规范;

　　2、开发、完善公司大数据平台;参与公司离线、实时大数据处理系统的设计、开发、测试及多个业务模块的自动化集成;

　　3、负责业务平台数据统计分析模块的设计与规划;

　　4、负责公司产品研发过程中的数据及存储设计;

　　5、带领和培养团队完成组织分解的目标;

　　任职要求：

　　1、统招本科及以上学历，计算机、软件工程相关专业，至少8年以上工作经验，5年以上大数据开发经验;

　　2、熟悉Java、Hadoop、HDFS、Hive、HBase、Spark、Storm、Flume等相关技术的基础架构

　　3、熟悉数据仓库，数据算法，分布式计算技术理论，具有大数据整体系统架构设计经验;

　　4、熟悉Linux系统，熟练使用shell/perl/python脚本处理问题;

　　5、对深度学习框架(Tensorflow)和机器学习(svm 随机深林贝叶斯等)有一定了解的优先;

　　6、能够组织项目开发组协同工作，包括团队沟通、计划、开发环境管理等

大数据平台架构师岗位职责 篇12

　　职责：

　　1、负责spark, hadoop, flink等开发和优化。

　　2、参与前期需求沟通和分析，以产品化开发的思维，完成需求分解和数据架构设计。

　　3、与研发和数据科学家合作保证产品定义清晰，按时完成产品上线。

　　4、能够洞察市场状况，与各部门合作转化为基于大数据挖掘的新策略或方案.

　　5、主动创造和发掘新的基于大数据挖掘产品商业模式.

　　任职要求：

　　1、全日制本科及以上学历，计算机软件相关专业，5年以上开发经验，3年以上架构经验

　　2、精通hadoop/MapReduce/Spark/Hbase/Flink/Hive/R/Mahout等分布式数据存储和分布式计算平台原理，流式计算开发，有开源二次开发经验者优先。

　　3、精通大数据挖掘、机器学习.熟练掌握Java/Perl/Python至少一种编程语言。

　　4、具有数据挖掘和分析、机器学习等项目实施相关经验者优先;

　　5、良好的跨部门沟通合作能力，解决不同观点能力并取得结果。具备敏锐的互联网产品理解力，学习能力和逻辑思维能力强;

　　6、较强的自我驱动力、推动和协调能力，强烈的责任心和团队合作精神;

大数据平台架构师岗位职责 篇13

　　职责：

　　1.负责公司大数据底层框架的整体架构设计，结合公司实际业务情况进行技术选型及大数据战略规划;

　　2.负责统一数据平台项目的整体评估、设计、架构及关键模块的开发，不断提升系统的稳定性和效率;

　　3.负责架构优化及系统关键模块的设计开发，协助团队解决开发过程中的技术难题;

　　4.建立良好的公司内外的业界技术影响力;有效辅导团队，提升数据研发能力;

　　任职要求：

　　1.从事大数据项目相关开发和设计2年以上经验;有作为技术负责人系统化解决问题的成功案例;有海量数据实践经验优先;

　　2.拥有一定的算法和数据结构基础;有很强的数据设计抽象能力，善于从复杂的数据问题中找到关键路径;

　　3.熟悉目前正在发展的大数据分布式平台前沿技术的应用;包括但不仅仅限于：hadoop、storm、spark、等;

　　4. 良好的逻辑思维能力，良好的业务解读能力，懂电力或通信业务优先;

　　5.具有钻研精神，乐于接受挑战;

大数据平台架构师岗位职责 篇14

　　职责：

　　1.负责过多个大数据项目的架构;

　　2.精通Hadoop、Spark, HBase等主流的大数据平台、精通各组件优化设计原理;

　　3.精通大数据实时流式处理的设计和应用;

　　3.熟悉大数据平台调优，具备大数据生产平台调优经验;

　　4.金融行业，运营商行业大数据架构经验更优;

　　5.研究大数据技术的最新发展，并引入到公司技术架构;

　　6.指导大数据工程师的日常工作，并培养技术骨干。

　　任职资格：

　　1.计算机相关专业本科或以上学历;

　　2.具有5年以上大数据相关开发经验;

　　3.具有2年以上带团队经验

　　4.对Hadoop/Hive/Spark/HBase/ES等等大数据常用技术有深刻理解，能够带领团队进行技术攻坚，完成中间件的实施、改造、调优;

　　5.精通海量数据和实时数据的分析处理，能对线上的数据处理性能问题做调优;

　　6.精通数据仓库以及维度建模原理，有大型数据仓库建设经验;

　　7.精通关系型数据库和NoSQL数据库的使用，熟悉相关理论;

　　8.沟通顺畅，重点突出，高效。

大数据平台架构师岗位职责 篇15

　　职责：

　　1、负责大数据基础平台的整体规划和架构设计，参与需求分析、技术决策以及详细设计;

　　2、为现有大数据集群Hadoop、hive平台提供性能调优、架构优化重组，解决系统中的关键问题和技术难题;

　　3、把握基础业务复杂系统的设计，确保系统的架构质量，编写核心部分代码;

　　4、持续挑战新的技术方向，攻克大数据量，高并发，稳定性等各种技术难点。

　　任职资格:

　　1、计算机或相关专业本科及以上学历;

　　2、5年以上hadoop的应用开发经验，5年以上数据仓库开发实践经验，至少一个企业级数据仓库项目开发经验或者大数据处理项目经验;

　　3、良好的编程开发能力，精通PHP及其他开发语言;

　　4、熟悉mysql等数据库经验，具备优秀的SQL编写、调优能力;

　　5、熟练掌握Linux常规命令与工具，精通shell, perl, python等脚本语言至少一种;

　　6、软件基础理论知识扎实，具有良好的数据结构、算法功底;

　　7、对新技术敏感，学习能力强，乐于接受挑战，具有良好的团队合作精神;

大数据平台架构师岗位职责 篇16

　　职责：

　　1. 负责产品级业务系统架构(如业务数据对象识别，数据实体、数据属性分析，数据标准、端到端数据流等)的设计与优化。协助推动跨领域重大数据问题的分析、定位、解决方案设计，从架构设计上保障系统高性能、高可用性、高安全性、高时效性、分布式扩展性，并对系统质量负责。

　　2.负责云数据平台的架构设计和数据处理体系的优化，推动云数据平台建设和持续升级，并制定云数据平台调用约束和规范。

　　3. 结合行业应用的需求负责数据流各环节上的方案选型，主导云数据平台建设，参与核心代码编写、审查;数据的统计逻辑回归算法、实时交互分析;数据可视化方案等等的选型、部署、集成融合等等。

　　4. 对云数据平台的关注业内技术动态，持续推动平台技术架构升级，以满足公司不同阶段的数据需求。

　　任职要求：

　　1. 熟悉云计算基础平台，包括 Linux(Ubuntu/CentOS)和 KVM、OpenStack/K8S 等基础环境，熟悉控制、计算、存储和网络;

　　2. 掌握大型分布式系统的技术栈，如：CDN、负载均衡、服务化/异步化、分布式缓存、NoSQL、数据库垂直及水平扩容;熟悉大数据应用端到端的相关高性能产品。

　　3. 精通 Java，Python，Shell 编程语言，精通 SQL、NoSQL 等数据库增删改查的操作优化;

　　4. PB 级别实战数据平台和生产环境的实施、开发和管理经验;

　　5. 熟悉 Docker 等容器的编排封装，熟悉微服务的开发和日常调度;

　　6.计算机、软件、电子信息及通信等相关专业本科以上学历，5 年以上软件工程开发经验，2 年以上大数据架构师工作经验。

大数据平台架构师岗位职责 篇17

　　职责：

　　1、大数据平台架构规划与设计;

　　2、负责大数据平台技术框架的选型与技术难点攻关;

　　3、能够独立进行行业大数据应用的整体技术框架、业务框架和系统架构设计和调优等工作，根据系统的业务需求，能够指导开发团队完成实施工作;

　　4、负责数据基础架构和数据处理体系的升级和优化，不断提升系统的稳定性和效率，为相关的业务提供大数据底层平台的支持和保证;

　　5、培养和建立大数据团队，对团队进行技术指导。

　　任职要求：

　　1、计算机相关专业的背景专业一类院校毕业本科、硕士学位，8年(硕士5年)以上工作经验(至少拥有3年以上大数据项目或产品架构经验);

　　2、精通Java，J2EE 相关技术，精通常见开源框架的架构，精通关系数据库系统(Oracle MySQL等)和noSQL数据存储系统的原理和架构;

　　3、精通SQL和Mapreduce、Spark处理方法;

　　4、精通大数据系统架构，熟悉业界数据仓库建模方法及新的建模方法的发展，有DW，BI架构体系的专项建设经验;

　　5、对大数据体系有深入认识，熟悉Kafka、Hadoop、Hive、HBase、Spark、Storm、greenplum、ES、Redis等大数据技术，并能设计相关数据模型;

　　6、很强的学习、分析和解决问题能力，可以迅速掌握业务逻辑并转化为技术方案，能独立撰写项目解决方案、项目技术文档;

　　7、具有较强的内外沟通能力，良好的团队意识和协作精神;

　　8、机器学习技术、数据挖掘、人工智能经验丰富者优先考虑;

　　9、 具有能源电力行业工作经验者优先。

大数据平台架构师岗位职责 篇18

　　职责

　　1、负责企业级大数据平台、数据云服务的设计与开发;

　　2、基于大数据生态圈，支持智慧交通等大数据场景应用实现;

　　3、负责公司大数据产品的设计、封装与落地;

　　4、负责学习大数据相关算法研究、实现与应用

　　任职要求

　　1、统招本科及以上学历;2年以上智慧城市建设或交通行业信息化相关工作经验，3年以上大数据架构设计、开发经验;

　　2、精通大数据生态圈的技术，包括但不限于MapReduce、Spark、Hadoop、Kafka、Mongodb、Redis、Flume、Storm、Hbase、Hive，具备源码级问题解决和集群优化改造能力;

　　3、熟悉常用编程语言，包括Java、Python、Scala等;

　　4、具有很强的技术研发和创新能力，能有效把握技术发展方向，有较强的执行能力、学习能力、沟通能力、适应能力，责任心强;

大数据平台架构师岗位职责相关文章：