大数据架构师工作的职责

大数据架构师工作的职责（精选15篇）

大数据架构师工作的职责 篇1

　　职责：

　　1、正确理解业务需求，对需求进行工作量评估;

　　2、参与项目相关的需求、设计、投产手册等文档的编写;

　　3、根据进度计划，完成所承担功能模块的设计、开发、单元测试、联调测试;

　　4、配合测试组修复代码缺陷，确保功能实现与代码质量;

　　5、负责所承担功能模块投产、部署，及上线后的日常维护;

　　6、完成项目经理或者架构师安排的其他工作;

　　任职资格：

　　1、本科以上学历，计算机相关专业，两年以上大数据开发经验;

　　2、熟悉Linux 环境，掌握shell或python;

　　3、熟练使用hadoop，hive，HBase，YARN，kafka，spark等大数据开发组件;

　　4、精通 ETL，数据仓库的设计和开发;

　　5、有大数据处理实战经验，熟悉整个大数据的完整处理流程，包括数据的采集、清洗、存储;

　　6、较强的动手能力和学习能力，良好的沟通能力、团队协调能力;

　　7、具有银行、金融行业从业背景者优先。

大数据架构师工作的职责 篇2

　　职责：

　　1、负责大数据项目平台架构的评估、规划和设计

　　2、开发大数据平台的核心模块代码，负责大数据平台的搭建，完成系统调试、集成与实施，保证大数据产品的上线运行

　　3、根据业务需求整合优化数据架构，保证产品的可靠性、稳定性

　　4、指导开发人员完成数据模型规划建设，分析模型构建及分析呈现

　　5、深入研究大数据相关技术和产品，跟进业界先进技术;

　　6、根据项目要求编写相关技术文档;

　　7、负责大数据平台的架构评审，代码评审，上线评审;参与数据应用需求、设计、审核和评审;

　　8、负责核心模块研发，负责大数据平台的搭建，完成系统调试、集成与实施;

　　9. 负责关键功能的开发，技术难题的解决，以及输出代码的关键把控;

　　10. 负责对使用关键技术的预研和选型，完成 PoC ;

　　11. 指导工程师完成开发工作，并能分享技术经验。

　　任职资格:

　　1、精通Linux操作系统，熟练使用Java;

　　2、3年以上大数据项目实战经验，两个项目的架构设计经验，熟悉Hadoop、Hbase、Storm、Spark、Pig等开源框架，并熟悉其工作原理;

　　3、有Hadoop、Spark、Hbase平台性能调优经验;

　　4、熟悉其它分布式存储相关技术，包括HDFS，Hive、Redis、Mongodb、 Flume、Kafaka、Sqoop、Zookeeper、ElasticSearch等;

　　5、熟悉Java开发常用框架.如Spring、MyBatis等;

　　6、熟悉关系型数据库如oracle及数据库编程。

　　7、能够根据项目情况安排人力、分配任务，具有较强的团队管理能力。

　　8、硕士以上学历，20xx年以上的工作经验。

大数据架构师工作的职责 篇3

　　职责：

　　1. 负责设计企业级大数据平台的整体架构，从技术层面制定清晰的大数据产品与系统技术架构，并负责实现关键技术和产品。

　　2. 负责设计具有创新价值的大数据底层平台、大数据上层应用系统等，带领团队完成有质变的技术解决方案。

　　3. 负责组织同事研究行内最前沿的技术发展方向，突破现有的技术难题。

　　4. 负责研究院对外项目合作协调与支持，编写项目建设方案及后期项目建设支持。

　　任职要求：

　　1. 硕士及以上学历，计算机相关专业。

　　2. JAVA基础扎实,不少于8年的一线开发经验，精通Spring boot/MyBatis/Restful API的开发与管理. 熟悉ReactJS/Angular/Vue之一前端开发技术，熟悉Maven或Ant.，熟悉Python语言开发加分。

　　3. 不少于4年大数据的直接研发经验，精通Hadoop/Spark系统，有hands-on的架构设计、性能调优、开发经验。有MongoDB、Kafka、Hbase/Cassandra/Storm/Hive 等系统的开发经验。

　　4. 掌握分布式系统原理，对分布式存储、流式计算、消息队列中的一项或多项有深入的理解和认识。

　　5. 熟悉分布式系统的监控、运维、故障恢复，高可用原理和设计理念。

　　6. 算法基础扎实，熟悉常见的数据结构，掌握大规模高并发访问、大数据开发等处理经验;熟练的Linux系统, 网络, 内存和存储等方面知识。

　　7. 必须要有千万级别的项目管理经验，包括但不限于前期需求沟通，建设方案编写，中期项目实施，进度汇报，后期项目维护。

大数据架构师工作的职责 篇4

　　职责：

　　1. 负责大数据基础平台、海量数据存储/处理分布式平台、数据分析系统架构设计和研发;

　　2. 负责实时计算平台基础架构设计、部署、监控、优化升级;

　　3. 制定项目/数据仓库设计及实现规范，指导设计研发和部署;

　　4. 协助策略和算法团队工作，保障数据挖掘建模和工程化;

　　5. 深入研究大数据相关技术和产品，跟进业界先进技术。

　　任职要求：

　　1. 全日制本科及以上学历，5年以上软件和分布式系统研发经验，3年以上大数据系统架构经验;

　　2. 精通Hadoop/HBase/Spark/Storm/Redis技术及其生态圈;

　　3. 具备Java/C++/Scala等开发经验，熟悉数据挖掘和分析的策略与算法;

　　4. 具备良好的系统分析能力、故障诊断能力;

　　5. 有大数据策略、算法、可视化经验优先;

　　6、211/985 重点学校毕业优先。

大数据架构师工作的职责 篇5

　　职责:

　　1、对业务需求深入分析，从而进行大数据平台核心应用的架构设计、开发和技术支持;

　　2、规划业务应用系统和基础平台的技术架构，参与需求分析、建模、架构设计、技术决策以及详细设计;

　　3、把握复杂系统的设计，确保系统的架构质量，编写核心部分代码;

　　4、带领团队攻克例如大数据量、高并发、高稳定性等带来的各种挑战及技术难关;

　　5、在大数据平台建设路线图指导下，进行架构实施和交付物投递，同时确保研发质量和方向的准确性;

　　6、进行团队技术的培训和梯队建设岗位要求;

　　任职条件:

　　1、本科或以上学历，计算机相关专业，8年以上研发经验，3年以上大数据平台相关工作经验;

　　2、精通Java开发技术，熟悉Shell、Scala语言和PYTHON优先;

　　3、编程基础扎实，熟悉I/O、多线程、集群等基础框架和原理，熟悉分布式、缓存、消息等机制;

　　4、熟悉常用设计模式，代码评审规则，单元测试，持续集成;

　　5、熟悉AWS云服务或阿里云服务;

　　6、熟悉容器技术原理、生态系统，熟悉Docker、Mesos、Kubernetes等容器系统、大规模容器资源调度系统、分布式应用生命周期。

大数据架构师工作的职责 篇6

　　职责：

　　(1) 负责公司大数据平台搭建，相关的设计和技术开发工作，负责大数据存储系统、分布式计算系统、数据集成、挖掘算法等的设计、研发以及维护、优化工作;

　　(2) 通过数据分析技术，挖掘有利于营销中各业务场景的变量或规则类标签，以提升模型效果，为文旅、教育业务提供数学模型理论及编程支撑;

　　(3) 对接沟通业务系统研发团队和产品部门，提供数据驱动方面的专业咨询方案，并对业务的大数据应用场景提出建设性意见;

　　(4) 配合部门领导进行项目需求分析、设计开发工作。

　　任职要求：

　　(1) 计算机、统计学，数学等相关专业本科以上学历，5年以上大数据或文旅、教育数据产品设计开发经验，高效高质量产出需求和技术文档;

　　(2) 精通Hadoop，熟悉大数据生态技术，如Storm、Spark、Scala、Flume、Kafka、Zookeeper、Hive、Hbase、Kerberos等，有大规模集群架构、开发及运维经验;熟悉HDFS/MapReduce等;

　　(3) 熟悉Java，能够独立应用python、R、SAS或类似分析工具进行数据分析;

　　(4) 熟悉大数据挖掘、可视化分析，各种BI算法和产品等，在计算广告、搜索引擎、推荐系统、用户画像等有一个或多个算法领域的研发经验，能够运用数据作为产品解决业务方运营及决策问题;

　　(5) 有互联网行业工作经验者优先，有海量数据的机器学习算法实践经验优先;

　　(6) 工作认真、负责，有良好的团队合作精神，良好的分析能力、沟通技巧。

大数据架构师工作的职责 篇7

　　职责：

　　1、负责公司大数据产品的架构设计，包含数据收集、数据存储、数据应用，并完成相关架构设计文档的撰写;

　　2、参与规划从数据源到数据应用的整体流程，并参与相关产品的决策;

　　3、负责解决核心技术问题，对技术方案进行决策;

　　4、负责大数据研发团队建设、人才梯队培养和技术团队管理;

　　5、积极了解业界发展，研究与跟踪大数据新技术发展方向。

　　任职要求：

　　1、精通GoldenGate For BigData相关理论，具备大型数据利用的生产实战经验;

　　2、精通数据驱动的理论，设计并生产上线相关数据驱动的产品;

　　3、精通常用消息中间件的使用，例如kafka/RocketMQ/Apache Pulsar，有解读相关源码者优先;

　　4、掌握hadoop、spark生态体系相关产品的使用，掌握MapReduce编程或Spark编程;

　　5、了解传统数据仓库理论及相关ETL工具，例如kettle/datastage;

　　6、熟悉Oracle、Mongodb、Mysql数据库的使用;

　　7、扎实的Java语言基础，熟悉Java开发工具和调试工具的使用;

　　8、良好的团队协作精神，有能力对团队在软件设计、实现和测试方面进行指导;

　　9、良好的逻辑分析能力和沟通能力，执行力强、对待工作认真严谨、责任心强、具备出色的学习能力和团队合作精神，有一定的推动能力;

　　10、计算机科学、信息技术或相关领域本科以上学历，具有5年以上数据平台项目开发经验，3年以上的架构设计经验，具有大数据平台应用大型项目架构设计经验优先;

大数据架构师工作的职责 篇8

　　职责：

　　1、负责公司大数据底层框架的整体架构设计，结合公司实际业务情况进行技术选型及大数据战略规划;

　　2、负责公司项目的整体评估、设计、架构及关键模块的开发;

　　3、负责架构优化，协助团队解决开发过程中遇到的技术难题;

　　4、负责新技术的调研和大数据相关开源组件的研究，并能在团队进行推广应用;

　　5、参与数据分析、数据建模、项目核心模块及核心框架的开发;

　　6、负责大数据平台的性能条有和问题诊断。

　　任职要求：

　　1、计算机相关专业，本科及以上学历，3-5年以上工作经验，2-3年大数据相关经验;

　　2、具有扎实的大数据和数据仓库理论功底，负责过大数据平台或数据仓库设计;

　　3、对基于Hadoop的大数据体系有深入的认识，具备相关产品(Hadoop、Hive、HBase、Spark、Storm、Flume、Kafka、Redis、ES等)项目应用研发经验，有Hadoop集群搭建和管理经验，度过Hadoop和Spark源码;

　　4、熟悉Linux和Python语言，了解Scala原理和底层技术;

　　5、熟悉分布式系统的架构及对其进行设计和优化，对海量数据的清晰、分析处理及存储有相关的实战经验;

　　6、算法基础扎实，熟悉常见的数据结构，深入理解分布式算法和以上提到的分布式系统，

　　7、必须有一线coding的能力;

　　8、有统计学、数学知识，海量数据处理、分析和挖掘，大型互联网公司从业经历着优先。

大数据架构师工作的职责 篇9

　　职责：

　　1、负责大数据平台的技术选型，基于Spark、Hadoop大数据平台建设和开发;

　　2、完成包括数据模型设计、数据采集、数据存储等方面的大数据系统架构的设计和数据层架构设计;

　　3、构建数据中台，为多种行业应用提供主数据(画像标签/关系图谱)、数据模型、人工智能业务算法及数据服务。

　　4、对海量数据处理的业务需求进行评估和方案设计、拆分任务并指导工程师完成开发;

　　5、带领大数据技术团队提供并实现大数据平台上各项数据分析和数据可视化的架构设计，支撑解决方案实施。

　　任职要求：

　　1、本科及以上学历，具有5年及以上大数据架构设计和开发经验;2年及以上带领团队经验;沟通能力强。在大型互联网企业从事大数据架构设计者优先考虑;有分布式大型商业软件系统设计经验、主导过大型商业软件的架构设计并取得过市场商业成功者优先考虑;

　　2、熟悉整个大数据的完整处理流程，包括数据的采集、清洗、预处理、存储、分析挖据、机器学习和数据可视化;

　　3、精通Oracle/MySQL/PostgreSQL/Greenplum/MongoDB等其中至少一种主流数据库的使用，并能进行性能调优;

　　4、具备优秀的团队意识和沟通能力，学习能力和主动性强，具有钻研精神，充满激情，乐于接受挑战。

大数据架构师工作的职责 篇10

　　职责：

　　负责公司大数据产品架构的设计与实现;

　　配合大数据产品经理完成产品的快速研发与交付;

　　负责大数据产品架构的持续优化设计;

　　负责大数据产品核心组件设计;

　　负责大数据相关数据架构规划、数据建模、数据库设计以及大数据产品研发工作;

　　为应用开发团队提供技术支撑。

　　及时向上级反馈工作进度、遇到的问题或者对现有工作的建议等;

　　完成上级领导交办的其它各项工作。

　　任职资格：

　　985/211本科及以上学历，3年以上的大数据开发经验、

　　2年以上大数据架构设计经验;

　　丰富的JAVA研发经验，精通JAVA，熟悉Python Scala等编程语言;具备深厚的分布式系统或数据库系统的理论基础，熟悉分布式计算系统的工作机制，具有分布式文件系统、分布式数据库系统、集群存储系统等架构设计经验;

　　熟悉整个大数据的完整处理流程(数据的采集、清洗、预处理、存储、分析挖掘、机器学习和数据可视化);

　　精通各种大数据相关技术体系：Hadoop、Spark、Storm、ElasticSearch、Kafka;

　　有数据挖掘、机器学习相关应用或研究背景;

　　沟通能力较好，积极主动意识较强，责任心较强。

　　具备优秀的逻辑思维能力，对解决挑战性问题充满热情，善于解决问题和分析问题;

　　良好的团队合作精神，较强的沟通能力和学习能力 ;

大数据架构师工作的职责 篇11

　　职责

　　1、负责大数据架构设计，包括定义数据的存储、集成(ETL)、应用，支撑业务运营和数据分析类需求实现;

　　2、制定数据治理领域的数据体系化管理措施，包括元数据设计、数据标准、数据质量、数据处理、数据安全等工作，确保数据可信与安全;

　　3、基于行业数据积累，满足业务的数据挖掘需求，实现从数据到资产的转变，根据目标行业建立具有前瞻性的数据模型;

　　4、对各产品的数据安全负责，主导制定和实施数据库系统安全策略，保证整体方案数据安全;

　　岗位要求

　　业务技能要求：

　　1、深入理解云化、数据仓库，在参与过的系统设计中，必须涉及这两项关键技术;

　　n2、精通或者熟悉Hadoop体系架构，以及HDFS/HBase/Hive/MapReduce/Spark等技术，了解体系架构各组件的优缺点，有直接的产品设计与开发、部署、调优的经验;

　　3、精通或熟悉常见RDBMS(Oracle / PostgreSQL / MySql)、NoSQL(Redis / Memcached/ MongoDB)、全文搜索引擎(Solr/ElasticSearch)的使用及开发，了解各数据库优缺点， 熟悉与架构设计相关的数据存储、性能调优等相关领域知识，有相关项目经验尤佳;

　　4、熟悉业界常用的数据采集、集成、数据存储、计算、数据模型、数据分析的技术方案，具有数据分析或数据挖掘相关经验者优先;

　　n5、熟悉数据治理相关流程，包括数据接入、数据处理、数据治理、数据组织、数据服务等。

　　专业知识要求：

　　1、具备数据治理的知识与体系方案，包含政策、组织、角色、流程、规范等，以及规划相应的支撑方案。了解业界的数据管理方法论;

　　2、具备数据用例设计和开发能力。能够基于业务相关数据进行业务需求分析和痛点识别，将业务需求转化为数据的需求，完成数据用例的设计和开发;

　　3、精通海量数据(日增量百亿)级别数据仓库、数据集市的构建流程。熟悉公安、政务、工业、交通、医疗等多行业业务者优先。

大数据架构师工作的职责 篇12

　　职责：

　　1.负责公司新业务方向平台大数据基础架构的搭建及后期数据处理体系的升级和优化，不断提升系统的稳定性和效率。为公司未来方向性产品提供大数据底层平台的支持和保证。

　　2.负责制定大数据平台调用约束和规范;

　　3.负责大数据方向技术难题的解决，以及代码质量的把控;

　　4.作为大数据开发团队的leader,负责大数据系统平台开发团队建设与人才梯队培养，分享技术经验，撰写相关技术文档指导和培训工程师。

　　任职要求：

　　1.热衷于大数据技术，并能平衡大数据性能、稳定性、扩展性多重要素进行设计和优化;

　　2.熟悉服务器基本知识，能够评估系统硬件性能瓶颈;

　　3.掌握Linux操作系统的配置，管理及优化，能够独立排查及解决操作系统层的各类问题，并能提供解决问题的理论依据;

　　4.精通Java服务器编程，熟悉JVM原理，对数据结构和算法设计有较为深刻的理解;

　　5.精通elasticsearch、Redis、hadoop、Kafka、Zookeeper、Yarn、Hbase、Spark底层架构，熟悉原理、源码、集群部署，包括参数优化、Bug修复，贡献过代码或提交过bug者优先

　　6.具备数据中心资源管理、监控、调度等系统研发经验者优先，具备分布式系统研发经验者优先;

　　7.具有应用大数据技术处理的项目开发、维护超过两年的经验者优先;

　　8.具有良好的文档编写能力，可进行方案设计、架构设计。

大数据架构师工作的职责 篇13

　　职责：

　　1、大数据平台架构规划与设计;

　　2、负责大数据平台技术框架的选型与技术难点攻关;

　　3、能够独立进行行业大数据应用的整体技术框架、业务框架和系统架构设计和调优等工作，根据系统的业务需求，能够指导开发团队完成实施工作;

　　4、负责数据基础架构和数据处理体系的升级和优化，不断提升系统的稳定性和效率，为相关的业务提供大数据底层平台的支持和保证;

　　5、培养和建立大数据团队，对团队进行技术指导。

　　任职要求：

　　1、计算机相关专业的背景专业一类院校毕业本科、硕士学位，8年(硕士5年)以上工作经验(至少拥有3年以上大数据项目或产品架构经验);

　　2、精通Java，J2EE 相关技术，精通常见开源框架的架构，精通关系数据库系统(Oracle MySQL等)和noSQL数据存储系统的原理和架构;

　　3、精通SQL和Mapreduce、Spark处理方法;

　　4、精通大数据系统架构，熟悉业界数据仓库建模方法及新的建模方法的发展，有DW，BI架构体系的专项建设经验;

　　5、对大数据体系有深入认识，熟悉Kafka、Hadoop、Hive、HBase、Spark、Storm、greenplum、ES、Redis等大数据技术，并能设计相关数据模型;

　　6、很强的学习、分析和解决问题能力，可以迅速掌握业务逻辑并转化为技术方案，能独立撰写项目解决方案、项目技术文档;

　　7、具有较强的内外沟通能力，良好的团队意识和协作精神;

　　8、机器学习技术、数据挖掘、人工智能经验丰富者优先考虑;

　　9、 具有能源电力行业工作经验者优先。

大数据架构师工作的职责 篇14

　　职责

　　1、负责公司大数据平台的整体架构设计，包含数据收集、数据存储、数据挖掘、数据输出;

　　2、负责规划从数据源到数据应用的整体流程，并参与用户产品和数据产品的决策;

　　3、负责海量数据分析、用户行为分析，构建用户数据模型;

　　4、负责解决核心技术问题，对技术方案进行决策;

　　5、技术团队管理。

　　6、熟悉手机IOS、安卓系统APP开发

　　任职资格

　　1、计算机相关专业毕业，本科以上学历;

　　2、5年以上相关工作经验，具备软件产品架构设计经验，熟练掌握高性能、高扩展性架构设计方法;

　　3、熟练掌握java或c++任意一门语言、熟悉linux操作系统;

　　4、熟悉Hadoop/MR/Hbase/Mahout/Spark等大数据技术，并能够基于上述项目开发大数据相关应用;

　　5、熟悉基本数据挖掘方法和技术;

　　6、强烈的敬业精神，良好的沟通与协调能力，能有效组织协调团队完成各类开发工作;

　　7、热爱技术，相信数据的价值，对大数据有深刻的理解。

大数据架构师工作的职责 篇15

　　职责：

　　1.负责企业数据中心建设，设计数据逻辑模型和物理模型，并完成相关开发

　　2.梳理公司各业务线常用的指标和维度，统一指标定义口径

　　3.根据数据应用开发和数据分析需求，设计数据仓库信息层模型，提高数据开发的效率

　　4.负责数据模型的运营和优化，及时响应业务逻辑变更，保证模型的数据质量和稳定性

　　5.负责公司数据标签体系的建设，并推动标签体系在实际业务场景中落地

　　岗位要求：

　　1.5年以上DW/BI数据架构设计、模型设计和性能调优等相关经验

　　2.有较强的数据分析能力，精通数据仓库架构，熟悉Erwin或PowerDesigner建模工具

　　3.精通一种主流关系数据库(如mysql等)，熟悉Hive开发

　　4.有电商业务经验，元数据管理，数据质量管理或标签体系搭建经验者优先

　　5.优秀的协调沟通与团队协作能力，极强的责任心，能承受一定的工作压力，认同企业文化和团队价值

大数据架构师工作的职责相关文章：