大数据架构师的岗位职责

大数据架构师的岗位职责（精选19篇）

大数据架构师的岗位职责 篇1

　　职责：

　　1、负责公司大数据产品的架构设计，包含数据收集、数据存储、数据应用，并完成相关架构设计文档的撰写;

　　2、参与规划从数据源到数据应用的整体流程，并参与相关产品的决策;

　　3、负责解决核心技术问题，对技术方案进行决策;

　　4、负责大数据研发团队建设、人才梯队培养和技术团队管理;

　　5、积极了解业界发展，研究与跟踪大数据新技术发展方向。

　　任职要求：

　　1、精通GoldenGate For BigData相关理论，具备大型数据利用的生产实战经验;

　　2、精通数据驱动的理论，设计并生产上线相关数据驱动的产品;

　　3、精通常用消息中间件的使用，例如kafka/RocketMQ/Apache Pulsar，有解读相关源码者优先;

　　4、掌握hadoop、spark生态体系相关产品的使用，掌握MapReduce编程或Spark编程;

　　5、了解传统数据仓库理论及相关ETL工具，例如kettle/datastage;

　　6、熟悉Oracle、Mongodb、Mysql数据库的使用;

　　7、扎实的Java语言基础，熟悉Java开发工具和调试工具的使用;

　　8、良好的团队协作精神，有能力对团队在软件设计、实现和测试方面进行指导;

　　9、良好的逻辑分析能力和沟通能力，执行力强、对待工作认真严谨、责任心强、具备出色的学习能力和团队合作精神，有一定的推动能力;

　　10、计算机科学、信息技术或相关领域本科以上学历，具有5年以上数据平台项目开发经验，3年以上的架构设计经验，具有大数据平台应用大型项目架构设计经验优先;

大数据架构师的岗位职责 篇2

　　职责：

　　1.负责公司大数据底层框架的整体架构设计，结合公司实际业务情况进行技术选型及大数据战略规划;

　　2.负责统一数据平台项目的整体评估、设计、架构及关键模块的开发，不断提升系统的稳定性和效率;

　　3.负责架构优化及系统关键模块的设计开发，协助团队解决开发过程中的技术难题;

　　4.建立良好的公司内外的业界技术影响力;有效辅导团队，提升数据研发能力;

　　任职要求：

　　1.从事大数据项目相关开发和设计2年以上经验;有作为技术负责人系统化解决问题的成功案例;有海量数据实践经验优先;

　　2.拥有一定的算法和数据结构基础;有很强的数据设计抽象能力，善于从复杂的数据问题中找到关键路径;

　　3.熟悉目前正在发展的大数据分布式平台前沿技术的应用;包括但不仅仅限于：hadoop、storm、spark、等;

　　4. 良好的逻辑思维能力，良好的业务解读能力，懂电力或通信业务优先;

　　5.具有钻研精神，乐于接受挑战;

大数据架构师的岗位职责 篇3

　　职责：

　　1、负责大数据开发团队建设;

　　2、负责行业大数据产品架构设计与研发;

　　3、负责带领团队进行行业大数据产品关键技术攻关。

　　任职要求：

　　1、有三年以上大数据应用、开发经验;具备海量数据加工处理(ETL)相关经验，对数据挖掘及机器学习有较为深刻的理解;

　　2、熟悉Hadoop相关技术，对HDFS、MapReduce、Hive、HBase有一定的使用和开发经验;

　　3、熟悉Linux，熟练使用Shell或Python，进行脚本编写;

　　4、对数据结构和数据统计分析算法有较为深刻理解;

　　5、掌握至少一种主流关系数据库开发技术：Oracle、SQL Server、MySQL等;

　　6、掌握实时流计算技术，有Spark、Storm开发经验者优先;

　　7、需要具备2年以上研发团队管理经验。

大数据架构师的岗位职责 篇4

　　职责:

　　1)负责公司软件产品整体架构的设计和关键功能实现

　　2)负责公司架构长期看护以及优化;

　　3)负责软件部门各模组间的协调配合;

　　4)提高巩固软件代码质量;

　　5)负责大数据流式框架的设计、优化及部署;

　　6)规划研发部门员工的技术发展路线并提供必要的帮助和指导

　　任职资格:

　　1)本科及以上学历，计算机相关专业，5年以上工作经验;

　　2)频繁换工作，比如一年一个公司，请绕路;

　　3)3年以上产品架构经验，主导过产品的成功上线;

　　4)对底层设备通讯协议，B/S系统，手机APP开发等都有一定的了解;

　　5)对各种主流语言C#JavaPathon有一定的了解

　　5)精通各种大数据架构，并深入研究过其中一种，有stormkafka等流式实时处理经验为佳

　　6)能够承担较强的工作压力，有良好的自我驱动能力和责任感;

　　7)具备优秀的逻辑思维能力、表达能力、沟通协调能力。

大数据架构师的岗位职责 篇5

　　职责：

　　1、搭建基于Hadoop/Spark的数据挖掘体系和大数据分析系统架构;

　　2、研究大数据领域前沿数据挖掘技术，并引入相应技术在数据中心的使用;

　　3、进行大数据系统框架设计、模型算法开发;

　　4、负责大型数据挖掘项目方案制定、项目实施落地及优化等 ;

　　5、开展数据爬取、聚类分析、舆情分析、鱼骨图分析、定价策略等领域数据挖掘工作;

　　任职资格：

　　1、本科以上学历(持有学士学位)(985，211优先)，计算机相关专业，五年工作经验;

　　2、二年以上数据挖掘项目经验，完整参与过数据挖掘大数据平台的架构开发过程，具备互联网行业背景优先;

　　3、精通分布式计算框架(hadoop、spark、Storm等)及相关经验，熟练掌握Hive/SQL，Python，熟悉Python、R相关数值科学计算库(NumPy,SciPy等);

　　4、了解传统的BI/DW 理论，能结合传统BI实践设计大数据平台;

　　5、熟悉常用机器学习算法(如分类、回归、聚类、关联规则等)及其原理，具备应用场景经验，如用户画像、商品关联度分析、舆情分析;

　　6、熟悉主数据、元数据、数据质量、和数据建模等数据治理相关的体系和方法;

　　7、具备较强的逻辑思维能力、数据敏感度，擅于利用数据发现问题及解决问题;

大数据架构师的岗位职责 篇6

　　职责：

　　1、负责大数据平台的架构设计、核心代码开发等任务;根据项目要求编写相关技术文档;

　　2、负责大数据平台的架构评审，代码评审，上线评审;参与数据应用需求、设计、审核和评审;

　　3、负责核心模块研发，负责大数据平台的搭建，完成系统调试、集成与实施;

　　4、负责建立和维护大数据平台技术标准规范，指导开发人员编写代码;

　　任职要求：

　　1、本科及以上计算机相关专业毕业;

　　2、精通离线和实时数据处理流程，掌握离线数据处理框架hive、impala、spark-sql等，掌握实时数据处理常用技术工具，包括Storm、SparkStreaming等;

　　3、熟悉大数据技术生态圈，精通大数据技术架构，有大数据平台构建经验;

　　4、掌握常见数据流接入工具，包括Flume、kafka等;

　　5、熟练掌握基本的Linux操作系统和某种脚本语言编程(如Shell等);

　　6、掌握一种或以上实时处理语言，如JAVA、SCALA、PYTHON等，有SCALA经验者优先;

　　7、有实际大规模数据(TB级以上)处理经验优先;

大数据架构师的岗位职责 篇7

　　职责：

　　负责公司大数据产品架构的设计与实现;

　　配合大数据产品经理完成产品的快速研发与交付;

　　负责大数据产品架构的持续优化设计;

　　负责大数据产品核心组件设计;

　　负责大数据相关数据架构规划、数据建模、数据库设计以及大数据产品研发工作;

　　为应用开发团队提供技术支撑。

　　任职要求：

　　本科及以上学历，3年以上的大数据开发经验、

　　2年以上大数据架构设计经验;

　　丰富的JAVA研发经验，精通JAVA，熟悉Python Scala等编程语言;具备深厚的分布式系统或数据库系统的理论基础，熟悉分布式计算系统的工作机制，具有分布式文件系统、分布式数据库系统、集群存储系统等架构设计经验;

　　熟悉整个大数据的完整处理流程(数据的采集、清洗、预处理、存储、分析挖掘、机器学习和数据可视化);

　　精通各种大数据相关技术体系：Hadoop、Spark、Storm、ElasticSearch、Kafka;

　　有数据挖掘、机器学习相关应用或研究背景;

　　沟通能力较好，积极主动意识较强，责任心较强。

大数据架构师的岗位职责 篇8

　　职责：

　　1. 深刻理解政府行业业务模式，构建政府行业的数据模型，制定公司大数据技术发展路线;

　　2. 对接业务研究和技术部门，主动搜集和转化需求，组织数据中心业务开发，进行数据相关产品需求分析和设计;

　　3. 搭建数据仓库，研发数据库管理系统，搜集、提取、处理业务积累的海量数据，开展数据分析和挖掘;

　　4. 根据公司战略和发展需要，规划数据中心重点工作和任务;落实部门人员、事务管理，开展跨部门、跨地区协作，协助对外交流与合作。

　　职位要求：

　　1. 5年以上相关工作经验，有团队管理和项目管理经验者优先;

　　2.了解政府运作机制，掌握财政行业知识，有电子政务行业经验者优先;

　　3. 熟练掌握使用Java或Python,精通数据库查询语言如SQL，Oracle等,在机器学习模型和算法方向有应用经验者优先;

　　4. 具备数据中心产品策划整体思维，有大数据处理、分析、挖掘经验者优先;

　　5. 逻辑思维严密，具备业务抽象、分解和标准化的能力，口头和书面表达优秀;

　　6. 有较强的大局意识和良好的团队合作意识，富有领导力，具备优秀的人际交往和沟通能力。

大数据架构师的岗位职责 篇9

　　职责：

　　1、负责大数据项目技术架构评估与设计;

　　2、负责关键功能的开发，技术难题的解决，以及输出代码的关键把控;

　　3、负责对使用关键技术的预研和选型，完成PoC;

　　4、指导工程师完成开发工作，并能分享技术经验。

　　任职要求：

　　1、3年以上相关工作经验，其中具有1年以上架构设计经验

　　2、熟悉商业智能系统相关技术，如 ETL、数据仓库、OLAP开发;

　　3、精通设计模式，熟悉面向服务架构(SOA)以及其它常用软件架构思想，有SOA方案设计、开发实施的实际经验，要具备实际的服务规划、服务粒度划分经验;并且要善于设计可重用组件和可定制化产品。

　　4、相关技术栈：Java /Scala/Flume/Hive/Kafka/HBase/ Spark/Storm/Redis;

　　5、有扎实的计算机基础，熟悉Java等编程语言;

大数据架构师的岗位职责 篇10

　　职责：

　　1、负责面向政府信领域的企业(不限于)大数据平台、大数据应用等系统的架构设计、技术规划、技术选型

　　2、跟进业界大数据技术发展动态，匹配行业应用诉求，制定大数据策略，提前识别关键技术并完成技术验证;

　　3、支撑售前完成项目解决方案技术架构的设计及重要客户的交流;

　　4、负责指导研发完成大数据产品的开发

　　5、带领团队进行产品核心技术的创新和积累

　　岗位要求：

　　1、熟悉BI和大数据领域的解决方案，具备该领域全面的技术积累，包括报表平台，OLAP引擎和DB，ETL，数据仓库建模和设计，海量分布式数据处理分析架构;

　　2、在大数据处理和分析领域具有3年或者以上的技术规划、架构设计经验，并有成功的项目实践;

　　3、4年以上Hadoop实战经验，熟悉Hadoop底层文件系统及分布式计算框架，具备传统数据仓库、MPP、Hadoop等混搭平台架构的设计能力和数据建模能力，对大规模数据并行计算、传输、处理等有丰富的经验;

　　4、有实际应用storm、spark、flume、kafka等项目经验优先;

　　5、卓越的技术领导力，善于沟通、发现和解决产品需求阶段、开发阶段和测试阶段的问题，并能提供合理解决方案，有大中型互联网企业工作背景优先。

大数据架构师的岗位职责 篇11

　　职责：

　　1. 负责大数据平台的基础技术规划，编制相关规范文档。

　　2. 负责大数据平台的数据采集，处理，存储以及挖掘分析的架构实现。

　　3. 负责大数据平台的实际规划建设，包括环境和框架的规划搭建以及部分核心编码工作。

　　4. 负责大数据相关技术发展方向的预研。

　　5. 参与业务需求调研，根据需求及行业特点设计大数据解决方案并跟进具体实施项目。

　　6. 制定大数据平台中数据质量，业务质量监控及管理办法。

　　岗位要求：

　　1. 全日制本科及以上学历，5年以上工作经验，4年及以上大数据架构设计经验，熟悉大数据解决方案，包括Hadoop平台、Spark、storm、机器学习、深度学习等大数据解决方案。

　　2. 深刻理解大数据处理(流计算、分布式计算、分布式文件系统、分布式存储等相关技术)实现方法。有架构和设计实践经验。

　　3. 精通大型数据库Oracle、SqlServer等的开发。

　　4. 精通java，Python中的一种或多种语言。

　　5. 熟悉容器、虚拟化、微服务框架等相关技术。

　　6. 对数据敏感，有严谨的工作思路，良好的沟通能力和团队合作精神。

　　7. 熟悉R，Python，SAS、SPSS等数据挖掘经验者优先。

　　8. 高宽展性，高性能，和分布式系统的实践及运维经验者优先。

　　9. 有大型数据仓库实施、大数据平台数据开发经验，熟悉运营商业务者优先。

大数据架构师的岗位职责 篇12

　　职责：

　　1、数据分析软件平台架构搭建

　　2、负责深度学习核心框架或高性能后台服务系统的架构设计工作，包括系统总体规划、架构设计、系统分析、软件实现、性能优化;

　　3、指导开发人员开发，并解决系统出现的问题，理解物业需求;

　　4、制定开发计划和控制开发进度，负责指导研发团队开展设计工作;

　　任职要求：

　　1、硕士以上，计算机或先关专业;

　　2、5年左右软件开发经验，含3年以上系统分析、设计经验，有大型软件项目大型软件项目;有中大型互联网企业数据库架构设计及管理经验，

　　3、 具备良好的组件级建模能力，熟悉HTTP、TCP等协议

　　4、熟练使用UML进行软件架构设计，至少精通EA，RATIONAL， VISIO等一种设计工具.

　　5、精通至少一种编程语言，熟悉 Linux 相关技术，能独立在上面进行开发、测试和部署

　　6、深入理解数据库、数据仓库、大数据、分布式体系架构和关键技术

大数据架构师的岗位职责 篇13

　　职责：

　　1、 基于公司大数据基础和数据资产积累，负责大数据应用整体技术架构的设计、优化，建设大数据能力开放平台;负责大数据应用产品的架构设计、技术把控工作。

　　2、 负责制定大数据应用系统的数据安全管控体系和数据使用规范。

　　3、 作为大数据技术方案到产品实现的技术负责人，负责关键技术点攻坚工作，负责内部技术推广、培训及知识转移工作。

　　4、 负责大数据系统研发项目任务规划、整体进度、风险把控，有效协同团队成员并组织跨团队技术协作，保证项目质量与进度。

　　5、 负责提升产品技术团队的技术影响力，针对新人、普通开发人员进行有效辅导，帮助其快速成长。

　　任职资格：

　　1、 计算机、数学或相关专业本科以上学历，5-20xx年工作经验，具有大型系统的技术架构应用架构数据架构相关的实践工作经验。

　　2、 有分布式系统分析及架构设计经验，熟悉基于计算集群的软件系统架构和实施经验。

　　3、 掌握Hadoop/Spark/Storm生态圈的主流技术及产品，深入了解Hadoop/Spark/Storm生态圈产品的工作原理及应用场景。

　　4、 掌握Mysql/Oracle等常用关系型数据库，能够对SQL进行优化。

　　5、 熟悉分布式系统基础设施中常用的技术，如缓存(Varnish、Memcache、Redis)、消息中间件(Rabbit MQ、Active MQ、Kafka、NSQ)等;有实践经验者优先。

　　6、 熟悉Linux，Java基础扎实，至少3-5年以上Java应用开发经验，熟悉常用的设计模式和开源框架。

大数据架构师的岗位职责 篇14

　　职责：

　　1. 负责大数据基础和应用平台的整体规划和架构设计，参与需求分析，架构设计，详细设计以及技术选型决策

　　2. 参与数据挖掘和建模相关核心算法的代码实现

　　3. 负责大数据算法平台的技术把关，性能调优，控制架构质量，解决项目技术难题;对研发项目和任务需求进行评估和方案设计、拆分任务并指导工程师完成开发

　　4. 带领团队提供并实现大数据算法平台上各项数据接入、数据挖掘分析及数据可视化的架构设计与能力，支持解决方案实施

　　5. 负责数据库设计、应用架构设计、核心技术选型等工作

　　6. 协调解决开发中的技术问题、设计和监控运营指标，保障系统稳定运行

　　7. 培养，指导有能力的员工，指导工程师进行技术验证实现，核心技术攻关，解决开发过程中的技术难题

　　任职要求：

　　1. 熟悉大数据和数据仓库的系统架构设计方法

　　2. 熟练使用并理解HadoopSpark架构及生态。(Hadoop，Hive，Hbase，Elasticsearch，Kafka，SparkFlink等)

　　3. 熟悉分布式系统架构，有分布式实时、离线和机器学习平台的架构和开发经验，具备海量数据清洗、分析处理及存储的实践经验

　　4. 熟练使用JAVA，具有大规模分布式系统调优经验

　　5. 熟悉AI相关算法，熟悉机器学习、深度学习。熟悉AI学习开源框架(Tensorflow、PyTorch等)者优先;

　　6. 具备良好的团队合作精神，对工作充满激情。

　　7. 熟悉FusionInsight平台开发经验者优先

大数据架构师的岗位职责 篇15

　　职责：

　　根据大数据业务需求，设计大数据方案及架构，实现相关功能;

　　搭建和维护大数据集群，保证集群规模持续、稳定、高效平稳运行;

　　负责大数据业务的设计和指导具体开发工作;

　　负责公司产品研发过程中的数据及存储设计;

　　针对数据分析工作，能够完成和指导负责业务数据建模。

　　职位要求：

　　计算机、自动化或相关专业(如统计学、数学)本科以上学历，3年以上大数据处理相关工作经验;

　　精通大数据主流框架(如 Hadoop、hive、Spark等);

　　熟悉 MySQL、NoSQL(MongoDB、Redis)等主流数据库，以及rabbit MQ等队列技术;

　　熟悉hadoop/spark生态的原理、特性且有实战开发经验;

　　熟悉常用的数据挖掘算法优先.

大数据架构师的岗位职责 篇16

　　职责：

　　1、正确理解业务需求，对需求进行工作量评估;

　　2、参与项目相关的需求、设计、投产手册等文档的编写;

　　3、根据进度计划，完成所承担功能模块的设计、开发、单元测试、联调测试;

　　4、配合测试组修复代码缺陷，确保功能实现与代码质量;

　　5、负责所承担功能模块投产、部署，及上线后的日常维护;

　　6、完成项目经理或者架构师安排的其他工作;

　　任职资格：

　　1、本科以上学历，计算机相关专业，两年以上大数据开发经验;

　　2、熟悉Linux 环境，掌握shell或python;

　　3、熟练使用hadoop，hive，HBase，YARN，kafka，spark等大数据开发组件;

　　4、精通 ETL，数据仓库的设计和开发;

　　5、有大数据处理实战经验，熟悉整个大数据的完整处理流程，包括数据的采集、清洗、存储;

　　6、较强的动手能力和学习能力，良好的沟通能力、团队协调能力;

　　7、具有银行、金融行业从业背景者优先。

大数据架构师的岗位职责 篇17

　　职责：

　　1.负责企业数据中心建设，设计数据逻辑模型和物理模型，并完成相关开发

　　2.梳理公司各业务线常用的指标和维度，统一指标定义口径

　　3.根据数据应用开发和数据分析需求，设计数据仓库信息层模型，提高数据开发的效率

　　4.负责数据模型的运营和优化，及时响应业务逻辑变更，保证模型的数据质量和稳定性

　　5.负责公司数据标签体系的建设，并推动标签体系在实际业务场景中落地

　　岗位要求：

　　1.5年以上DW/BI数据架构设计、模型设计和性能调优等相关经验

　　2.有较强的数据分析能力，精通数据仓库架构，熟悉Erwin或PowerDesigner建模工具

　　3.精通一种主流关系数据库(如mysql等)，熟悉Hive开发

　　4.有电商业务经验，元数据管理，数据质量管理或标签体系搭建经验者优先

　　5.优秀的协调沟通与团队协作能力，极强的责任心，能承受一定的工作压力，认同企业文化和团队价值

大数据架构师的岗位职责 篇18

　　职责：

　　1)负责大数据平台系统架构设计、核心开发工作(Hadoop&Spark技术方向)，基于业务场景设计最优的系统解决方案。

　　2)构架支持大数量级的数据的大数据平台系统，及相关监控，拓展系统设计及实现。

　　3)利用Hadoop、Spark等大数据技术对海量数据进行处理，支持BI和数据科学(建模)的应用实现。

　　4)对现有系统的进行架构深入分析及系统优化，进一步提升系统的性能及数据处理能力。

　　任职资格

　　1)统招本科或以上学历，计算机相关专业， 5年以上软件开发经验、3年以上大数据项目经验。

　　2)具备较丰富的大数据平台相关构建，维护及调优经验，有大数据量级下的大数据集市相关经验。

　　3)具备较丰富的基于Hadoop或Hive或Spark等大数据处理项目经验，具备一定的数据挖掘经验。

　　4) 具有阿里云的EMR(emapreduce)的经验者优先考虑。

　　5)具有良好的业务理解、沟通和协作能力，具有较强的学习和总结能力。

　　6)优秀的团队合作精神、诚实、勤奋、严谨，敢于接受挑战。

　　7)机器学习技术、数据挖掘经验丰富者优先考虑。

大数据架构师的岗位职责 篇19

　　1、建设大数据平台，主要技术为k8s, docker;

　　2、跟进开源社区的更新，阅读文档，验证feature;

　　3、阅读容器生态圈各组件的开源项目代码，开发新功能;

　　4、持续提升平台的性能和稳定性。

大数据架构师的岗位职责相关文章：