大数据架构师岗位的工作职责
大数据架构师岗位的工作职责(通用13篇)
大数据架构师岗位的工作职责 篇1职责:
1.能够带领技术人员基于hadoop平台进行海量数据应用系统开发;
2.负责结构化和非结构化数据的解析和清洗,海量数据查询和报表展现;
3.负责超大规模数据平台的搭建、维护和优化;
4.负责大数据采集、存储框架研究,参与在线或离线数据存储模型设计;
5.负责大数据平台新技术的开发使用和性能优化,测试。
任职资格:
1.计算机相关专业本科及以上学历;
2. 熟悉hadoop相关各种开源项目,比如HDFS/Hive/Hbase等有实际应用。(5年以上开发经验者优先);
3.两年以上熟练编写mapreduce代码经验,有三年以上网络日志分析、ETL经验。熟悉日志分析框架chukwa,flume,scribe者优先;
4.两年以上海量数据存储的安装部署、优化、二次开发经验,对大规模数据存储、传输、处理等有丰富的经验;
5.在数据挖掘、数据密集型处理、分布式计算、网格计算领域有深入理论基础;
6.具有较强的文档撰写能力,较强的团队精神和合作精神,对工作有热情,能承受压力。
大数据架构师岗位的工作职责 篇2职责:
1、负责大数据平台架构的规划与设计;
2、负责大数据平台技术框架的选型与技术难点攻关;
3、参与企业级大数据产品和应用规划;
4、研究跟进大数据架构领域新技术并分享;
5、大数据处理和分析应用平台的设计指导。
任职资格:
1、 具备深厚的分布式系统或数据库系统的理论基础,熟悉分布式计算系统的工作机制,具有分布式文件系统、分布式数据库系统、集群存储系统等架构设计经验;
2、熟悉BI平台架构及相关项目标准,大数据解决方案包括Hadoop、Spark、Storm、机器学习等大数据平台解决方案;
3、熟悉MySql/Postgresql/Oracle/MongoDB/Redis等主流数据数据库;
4、 精通Linux/Unix环境,精通J java、scala、python、R中的一种或多种语言;
5、 具备优秀的团队意识和沟通能力,学习能力和主动性强,具有钻研精神,充满激情,乐于接受挑战;
6、大专及以上学历,3年及以上工作经验。
大数据架构师岗位的工作职责 篇3职责:
1. 规划设计大数据平台整体架构,规划各种组件,并且指导技术团队完成相关系统验证、安装、部署、配置;
2. 负责制定大数据平台技术规范和接口规范,指导研发团队按照规范进行系统开发;
3. 配合商务人员完成售前技术支持工作;
4. 完成其他与数据应用有关的技术工作;
任职要求:
1. 计算机相关专业本科学历,5年以上工作经验;
2. 对大数据技术栈有非常深刻的了解;具备架构设计的实际经验;
3. 对信息安全架构设计及实施有一定的经验;
4. 熟悉Linux、Windows等操作系统的安装配置;
5. 熟悉互联网应用的安装配置;熟悉常见大数据技术栈组件的安装配置;熟悉Visio等绘图工具的使用;
6. 有卫生信息化建设经验者优先;有容器安装部署经验者优先。
大数据架构师岗位的工作职责 篇4职责:
1.负责数据仓库建设,基于数据驱动构建企业级数据模型,根据架构设计进行各层数据模型开发。
2.面向PB级别超大规模数据处理和查询需求,设计适合业务变化的合理的多维数据分析系统架构,满足多样性需求。
3.构建设计良好的数据流、调度系统、查询引擎、监控系统,保证系统稳定高效运行,以实现数据的最大价值。
4.指导团队成员开展数据仓库建设。
5.参与重点项目的评审,参与企业数据管理体系建设。
任职要求:
1.统招本科及以上学历。
2.从事数据仓库领域至少5年以上,熟悉数据仓库模型设计与ETL开发经验 ,掌握Kimball的维度建模设计方法,具备海量数据加工处理(ETL)相关经验 。
3.具有一定数据模型和数据架构基础,熟悉hadoophive和常用数据库。
4. 精通SQL,有一定的SQL性能调优经验,熟悉hive sql的开发。
5.具有管理团队开发经验,具备良好的组织能力、协调能力及项目管理能力。
6.具有较好的文字功底及语言表达能力,能够快速、准确地理解需求。
7.具有专研、快速学习和创新精神,具备独立分析问题和解决问题的能力。
8.具有责任心,时间观念强,工作独立性强,有良好的团队合作精神。
9.全日制普通本科毕业。
大数据架构师岗位的工作职责 篇5职责
1、负责企业级大数据平台、数据云服务的设计与开发;
2、基于大数据生态圈,支持智慧交通等大数据场景应用实现;
3、负责公司大数据产品的设计、封装与落地;
4、负责学习大数据相关算法研究、实现与应用
任职要求
1、统招本科及以上学历;2年以上智慧城市建设或交通行业信息化相关工作经验,3年以上大数据架构设计、开发经验;
2、精通大数据生态圈的技术,包括但不限于MapReduce、Spark、Hadoop、Kafka、Mongodb、Redis、Flume、Storm、Hbase、Hive,具备源码级问题解决和集群优化改造能力;
3、熟悉常用编程语言,包括Java、Python、Scala等;
4、具有很强的技术研发和创新能力,能有效把握技术发展方向,有较强的执行能力、学习能力、沟通能力、适应能力,责任心强;
大数据架构师岗位的工作职责 篇6职责:
1、负责大数据平台的架构设计、核心代码开发等任务;根据项目要求编写相关技术文档;
2、负责大数据平台的架构评审,代码评审,上线评审;参与数据应用需求、设计、审核和评审;
3、负责核心模块研发,负责大数据平台的搭建,完成系统调试、集成与实施;
4、负责建立和维护大数据平台技术标准规范,指导开发人员编写代码;
任职要求:
1、本科及以上计算机相关专业毕业;
2、精通离线和实时数据处理流程,掌握离线数据处理框架hive、impala、spark-sql等,掌握实时数据处理常用技术工具,包括Storm、SparkStreaming等;
3、熟悉大数据技术生态圈,精通大数据技术架构,有大数据平台构建经验;
4、掌握常见数据流接入工具,包括Flume、kafka等;
5、熟练掌握基本的Linux操作系统和某种脚本语言编程(如Shell等);
6、掌握一种或以上实时处理语言,如JAVA、SCALA、PYTHON等,有SCALA经验者优先;
7、有实际大规模数据(TB级以上)处理经验优先;
大数据架构师岗位的工作职责 篇7职责:
负责大数据平台的规划和搭建、完成大数据平台的日常运营工作,为数据分析和展现提供支持;
对系统框架相关技术和业务进行培训,并负责核心代码编写,指导团队开发及解决出现的系统问题;
参与基于大数据平台的创新业务场景进行数据产品的架构设计,负责数据产品的研发交付;
负责处理大数据平台的疑难问题,为数据团队提供可靠的技术支持;
负责数据质量、稳定性等数据管理,数据内部共享融通的数据平台,让数据标准更规范、数据获取更高效;
及时跟进大数据领域新技术并分享,提升团队技术能力。
任职要求:
本科或以上学历,5年以上数据系统建设经验,3年以上大数据架构设计经验;
精通 java,python,scala 等一种大数据开发语言,熟悉Hadoop生态圈,包括但不限于hdfs,hive,spark, 有丰富的大数据项目的实践经验;
具备创新精神,条理清晰,沟通表达和逻辑思维能力强;
熟悉数据仓库的设计和开发,对数据架构有深入的了解和具备相关的项目实践经验优先;
对SQL on Hadoop 的开源查询引擎(如Presto、 Apache Drill ) 原理有深入研究优先;
有敏捷大数据和数据可视化实践经验优先。
大数据架构师岗位的工作职责 篇8职责:
负责公司大数据产品架构的设计与实现;
配合大数据产品经理完成产品的快速研发与交付;
负责大数据产品架构的持续优化设计;
负责大数据产品核心组件设计;
负责大数据相关数据架构规划、数据建模、数据库设计以及大数据产品研发工作;
为应用开发团队提供技术支撑。
及时向上级反馈工作进度、遇到的问题或者对现有工作的建议等;
完成上级领导交办的其它各项工作。
任职资格:
985/211本科及以上学历,3年以上的大数据开发经验、
2年以上大数据架构设计经验;
丰富的JAVA研发经验,精通JAVA,熟悉Python Scala等编程语言;具备深厚的分布式系统或数据库系统的理论基础,熟悉分布式计算系统的工作机制,具有分布式文件系统、分布式数据库系统、集群存储系统等架构设计经验;
熟悉整个大数据的完整处理流程(数据的采集、清洗、预处理、存储、分析挖掘、机器学习和数据可视化);
精通各种大数据相关技术体系:Hadoop、Spark、Storm、ElasticSearch、Kafka;
有数据挖掘、机器学习相关应用或研究背景;
沟通能力较好,积极主动意识较强,责任心较强。
具备优秀的逻辑思维能力,对解决挑战性问题充满热情,善于解决问题和分析问题;
良好的团队合作精神,较强的沟通能力和学习能力 ;
大数据架构师岗位的工作职责 篇9职责:
1)负责大数据平台系统架构设计、核心开发工作(Hadoop&Spark技术方向),基于业务场景设计最优的系统解决方案。
2)构架支持大数量级的数据的大数据平台系统,及相关监控,拓展系统设计及实现。
3)利用Hadoop、Spark等大数据技术对海量数据进行处理,支持BI和数据科学(建模)的应用实现。
4)对现有系统的进行架构深入分析及系统优化,进一步提升系统的性能及数据处理能力。
任职资格
1)统招本科或以上学历,计算机相关专业, 5年以上软件开发经验、3年以上大数据项目经验。
2)具备较丰富的大数据平台相关构建,维护及调优经验,有大数据量级下的大数据集市相关经验。
3)具备较丰富的基于Hadoop或Hive或Spark等大数据处理项目经验,具备一定的数据挖掘经验。
4) 具有阿里云的EMR(emapreduce)的经验者优先考虑。
5)具有良好的业务理解、沟通和协作能力,具有较强的学习和总结能力。
6)优秀的团队合作精神、诚实、勤奋、严谨,敢于接受挑战。
7)机器学习技术、数据挖掘经验丰富者优先考虑。
大数据架构师岗位的工作职责 篇10职责:
1.负责企业数据中心建设,设计数据逻辑模型和物理模型,并完成相关开发
2.梳理公司各业务线常用的指标和维度,统一指标定义口径
3.根据数据应用开发和数据分析需求,设计数据仓库信息层模型,提高数据开发的效率
4.负责数据模型的运营和优化,及时响应业务逻辑变更,保证模型的数据质量和稳定性
5.负责公司数据标签体系的建设,并推动标签体系在实际业务场景中落地
岗位要求:
1.5年以上DW/BI数据架构设计、模型设计和性能调优等相关经验
2.有较强的数据分析能力,精通数据仓库架构,熟悉Erwin或PowerDesigner建模工具
3.精通一种主流关系数据库(如mysql等),熟悉Hive开发
4.有电商业务经验,元数据管理,数据质量管理或标签体系搭建经验者优先
5.优秀的协调沟通与团队协作能力,极强的责任心,能承受一定的工作压力,认同企业文化和团队价值
大数据架构师岗位的工作职责 篇11职责:
1.参与公司数据平台系统规划和架构工作,主导系统的架构设计和项目实施,确保项目质量和关键性能指标达成;
2.统筹和推进制造工厂内部数据系统的构建,搭建不同来源数据之间的逻辑关系,能够为公司运营诊断、运营效率提升提供数据支持;
3.负责数据系统需求对接、各信息化系统数据对接、软件供应商管理工作
5.根据现状制定总体的数据治理方案及数据体系建立,包括数据采集、接入、分类、开发标准和规范,制定全链路数据治理方案;深入挖掘公司数据业务,超强的数据业务感知力,挖掘数据价值,推动数据变现场景的落地,为决策及业务赋能;
6.定义不同的数据应用场景,推动公司的数据可视化工作,提升公司数据分析效率和数据价值转化。
任职要求:
1.本科以上学历,8年以上软件行业从业经验,5年以上大数据架构设计经验,熟悉BI平台、大数据系统相关技术架构及技术标准;
2.熟悉数据仓库、熟悉数据集市,了解数据挖掘、数据抽取、数据清洗、数据建模相关技术;
3.熟悉大数据相关技术:Hadoop、Hive、Hbase、Storm、Flink、Spark、Kafka、RabbitMQ;
4.熟悉制造企业信息化系统及相关数据库技术;
5.具备大数据平台、计算存储平台、可视化开发平台经验,具有制造企业大数据系统项目开发或实施经验优先;
6.对数据敏感,具备优秀的业务需求分析和报告展示能力,具备制造企业数据分析和数据洞察、大数据系统的架构设计能力,了解主流的报表工具或新兴的前端报表工具;
7.有较强的沟通和组织协调能力,具备结果导向思维,有相关项目管理经验优先。
大数据架构师岗位的工作职责 篇12职责:
1、从事电信行业大数据项目相关业务调研、产品标准建设、核心模型设计和优化、系统测试等相关工作
2、与数据专业委员会一起研究数据建模方案和建模工具,负责产品线产品的数据架构、数据模型设计
3、参与研究数据库之间的数据转换方式,参与项目中的数据移植工作,收集在项目中的数据移植经验,优化产品的数据模型
4、负责培训本部门队伍的数据模型基础理论工作,建立数据模型团队
岗位要求:
1、统招本科学历,3年以上主流数据上(DB2、Oracle、SQLServer、Mysql等)ETL设计、开发经验,具备大型数据仓库逻辑模型和物理模型设计经验,精通SQL,有较好的SQL性能调优经验;
2、拥有Python,R等数学建模工具的使用经验,并具备一定的数据处理和建模经验,可以输出相应的模型分析结果、模型比较、模型效率以及对模型的理论和判断依据方法并对其进行完整的解释和说明;
3、熟悉统计学基本原理,做过实战的数据建模项目;
4、有分布式数据仓库建设相关经验者优先,具备电信行业数据仓库建设相关经验者优先;
大数据架构师岗位的工作职责 篇13职责:
1、负责规划大数据平台及应用产品的需求和技术方案设计;
2、负责数据对接和对外服务设计、开发和维护,并能保证质量和性能;
3、负责基于大数据平台的应用设计、开发和维护;
4、能从系统全局和各子系统的角度思考可能存在的问题,并提出改进方案建议;
任职要求:
1、大学本科6年以上工作经验,计算机相关专业。
2、至少4年以上的Java开发经验,3年以上大数据应用系统的开发和设计经验。
3、熟悉Hadoop生态圈技术体系, 对离线计算、内存计算和流式计算均有深刻理解, 如Hadoop、Storm、Spark三个中的任意二个, 能进行平台和组件优化。
4、精通Hive、HBase仓库设计,深刻理解MR运行原理和机制,能进行以提供高任务执行效率的优化。
5、精通Java开发,熟悉JVM调优, 对GC有深刻理解。
6、熟悉Linux、Shell、Kafka、Oracle、Mysql、Redis等相关技术, 能进行hbase可靠性诊断和维护。
7、快速研究和学习技术能力。
大数据架构师岗位的工作职责相关文章:
大数据架构师岗位的工作职责
上一篇:2023教学助理工作职责归纳整合
下一篇:新媒体运营专员岗位的具体内容