建站
咨詢
售后
建站咨詢
新聞中心
一、NoSQL數(shù)據(jù)庫簡介
Web1.0的時代，數(shù)據(jù)訪問量很有限，用一夫當關(guān)的高性能的單點服務(wù)器可以解決大部分問題。
創(chuàng)新互聯(lián)專業(yè)為企業(yè)提供瀏陽網(wǎng)站建設(shè)、瀏陽做網(wǎng)站、瀏陽網(wǎng)站設(shè)計、瀏陽網(wǎng)站制作等企業(yè)網(wǎng)站建設(shè)、網(wǎng)頁設(shè)計與制作、瀏陽企業(yè)網(wǎng)站模板建站服務(wù)，十年瀏陽做網(wǎng)站經(jīng)驗，不只是建網(wǎng)站，更提供有價值的思路和整體網(wǎng)絡(luò)服務(wù)。
隨著Web2.0的時代的到來，用戶訪問量大幅度提升，同時產(chǎn)生了大量的用戶數(shù)據(jù)。加上后來的智能移動設(shè)備的普及，所有的互聯(lián)網(wǎng)平臺都面臨了巨大的性能挑戰(zhàn)。
NoSQL(NoSQL = Not Only SQL )，意即“不僅僅是SQL”，泛指非關(guān)系型的數(shù)據(jù)庫。
NoSQL 不依賴業(yè)務(wù)邏輯方式存儲，而以簡單的key-value模式存儲。因此大大的增加了數(shù)據(jù)庫的擴展能力。
Memcache Memcache Redis Redis MongoDB MongoDB 列式數(shù)據(jù)庫 列式數(shù)據(jù)庫 Hbase Hbase
HBase是Hadoop項目中的數(shù)據(jù)庫。它用于需要對大量的數(shù)據(jù)進行隨機、實時的讀寫操作的場景中。
HBase的目標就是處理數(shù)據(jù)量非常龐大的表，可以用普通的計算機處理超過10億行數(shù)據(jù)，還可處理有數(shù)百萬列元素的數(shù)據(jù)表。
Cassandra Cassandra
Apache Cassandra是一款免費的開源NoSQL數(shù)據(jù)庫，其設(shè)計目的在于管理由大量商用服務(wù)器構(gòu)建起來的龐大集群上的海量數(shù)據(jù)集(數(shù)據(jù)量通常達到PB級別)。在眾多顯著特性當中，Cassandra最為卓越的長處是對寫入及讀取操作進行規(guī)模調(diào)整，而且其不強調(diào)主集群的設(shè)計思路能夠以相對直觀的方式簡化各集群的創(chuàng)建與擴展流程。
主要應(yīng)用：社會關(guān)系，公共交通網(wǎng)絡(luò)，地圖及網(wǎng)絡(luò)拓譜(n*(n-1)/2)
大數(shù)據(jù)架構(gòu)師崗位的主要職責概述
大數(shù)據(jù)架構(gòu)師崗位的主要職責概述 篇1
職責：
1、負責大數(shù)據(jù)平臺及BI系統(tǒng)框架設(shè)計、規(guī)劃、技術(shù)選型，架構(gòu)設(shè)計并完成系統(tǒng)基礎(chǔ)服務(wù)的開發(fā);
2、負責海量埋點規(guī)則、SDK標準化、埋點數(shù)據(jù)采集、處理及存儲，業(yè)務(wù)數(shù)據(jù)分布存儲、流式/實時計算等應(yīng)用層架構(gòu)搭建及核心代碼實現(xiàn);
3、開發(fā)大數(shù)據(jù)平臺的核心代碼，項目敏捷開發(fā)流程管理，完成系統(tǒng)調(diào)試、集成與實施，對每個項目周期技術(shù)難題的解決，保證大數(shù)據(jù)產(chǎn)品的上線運行;
4、負責大數(shù)據(jù)平臺的架構(gòu)優(yōu)化，代碼評審，并根據(jù)業(yè)務(wù)需求持續(xù)優(yōu)化數(shù)據(jù)架構(gòu)，保證產(chǎn)品的可靠性、穩(wěn)定性;
5、指導開發(fā)人員完成數(shù)據(jù)模型規(guī)劃建設(shè)，分析模型構(gòu)建及分析呈現(xiàn)，分享技術(shù)經(jīng)驗;
6、有效制定各種突發(fā)性研發(fā)技術(shù)故障的應(yīng)對預案，有清晰的隱患意識;
7、深入研究大數(shù)據(jù)相關(guān)技術(shù)和產(chǎn)品，跟進業(yè)界先進技術(shù);
任職要求
1、統(tǒng)計學、應(yīng)用數(shù)學或計算機相關(guān)專業(yè)大學本科以上學歷;
2、熟悉互聯(lián)網(wǎng)移動端埋點方法(點擊和瀏覽等行為埋點)，無埋點方案等，有埋點SDK獨立開發(fā)經(jīng)驗者優(yōu)選;
3、熟悉Hadoop，MR/MapReduce，Hdfs，Hbase，Redis，Storm，Python，zookeeper，kafka，flinkHadoop，hive，mahout，flume，ElasticSearch，KafkaPython等，具備實際項目設(shè)計及開發(fā)經(jīng)驗;
4、熟悉數(shù)據(jù)采集、數(shù)據(jù)清洗、分析和建模工作相關(guān)技術(shù)細節(jié)及流程
5、熟悉Liunx/Unix操作系統(tǒng)，能熟練使用shell/perl等腳本語言，熟練掌握java/python/go/C++中一種或多種編程語言
6、具備一定的算法能力，了解機器學習/深度學習算法工具使用，有主流大數(shù)據(jù)計算組件開發(fā)和使用經(jīng)驗者優(yōu)先
7、熟悉大數(shù)據(jù)可視化工具Tableau/echarts
8、具有較強的執(zhí)行力，高度的責任感、很強的學習、溝通能力，能夠在高壓下高效工作;
大數(shù)據(jù)架構(gòu)師崗位的主要職責概述 篇2
職責：
根據(jù)大數(shù)據(jù)業(yè)務(wù)需求，設(shè)計大數(shù)據(jù)方案及架構(gòu)，實現(xiàn)相關(guān)功能;
搭建和維護大數(shù)據(jù)集群，保證集群規(guī)模持續(xù)、穩(wěn)定、高效平穩(wěn)運行;
負責大數(shù)據(jù)業(yè)務(wù)的設(shè)計和指導具體開發(fā)工作;
負責公司產(chǎn)品研發(fā)過程中的數(shù)據(jù)及存儲設(shè)計;
針對數(shù)據(jù)分析工作，能夠完成和指導負責業(yè)務(wù)數(shù)據(jù)建模。
職位要求：
計算機、自動化或相關(guān)專業(yè)(如統(tǒng)計學、數(shù)學)本科以上學歷，3年以上大數(shù)據(jù)處理相關(guān)工作經(jīng)驗;
精通大數(shù)據(jù)主流框架(如Hadoop、hive、Spark等);
熟悉MySQL、NoSQL(MongoDB、Redis)等主流數(shù)據(jù)庫，以及rabbit MQ等隊列技術(shù);
熟悉hadoop/spark生態(tài)的原理、特性且有實戰(zhàn)開發(fā)經(jīng)驗;
熟悉常用的數(shù)據(jù)挖掘算法優(yōu)先。
大數(shù)據(jù)架構(gòu)師崗位的主要職責概述 篇3
職責：
1、大數(shù)據(jù)平臺架構(gòu)規(guī)劃與設(shè)計;
2、負責大數(shù)據(jù)平臺技術(shù)框架的選型與技術(shù)難點攻關(guān);
3、能夠獨立進行行業(yè)大數(shù)據(jù)應(yīng)用的整體技術(shù)框架、業(yè)務(wù)框架和系統(tǒng)架構(gòu)設(shè)計和調(diào)優(yōu)等工作，根據(jù)系統(tǒng)的業(yè)務(wù)需求，能夠指導開發(fā)團隊完成實施工作;
4、負責數(shù)據(jù)基礎(chǔ)架構(gòu)和數(shù)據(jù)處理體系的升級和優(yōu)化，不斷提升系統(tǒng)的穩(wěn)定性和效率，為相關(guān)的業(yè)務(wù)提供大數(shù)據(jù)底層平臺的支持和保證;
5、培養(yǎng)和建立大數(shù)據(jù)團隊，對團隊進行技術(shù)指導。
任職要求：
1、計算機相關(guān)專業(yè)的背景專業(yè)一類院校畢業(yè)本科、碩士學位，8年(碩士5年)以上工作經(jīng)驗(至少擁有3年以上大數(shù)據(jù)項目或產(chǎn)品架構(gòu)經(jīng)驗);
2、精通Java，J2EE相關(guān)技術(shù)，精通常見開源框架的架構(gòu)，精通關(guān)系數(shù)據(jù)庫系統(tǒng)(Oracle MySQL等)和noSQL數(shù)據(jù)存儲系統(tǒng)的原理和架構(gòu);
3、精通SQL和Mapreduce、Spark處理方法;
4、精通大數(shù)據(jù)系統(tǒng)架構(gòu)，熟悉業(yè)界數(shù)據(jù)倉庫建模方法及新的建模方法的發(fā)展，有DW，BI架構(gòu)體系的專項建設(shè)經(jīng)驗;
5、對大數(shù)據(jù)體系有深入認識，熟悉Kafka、Hadoop、Hive、HBase、Spark、Storm、greenplum、ES、Redis等大數(shù)據(jù)技術(shù)，并能設(shè)計相關(guān)數(shù)據(jù)模型;
6、很強的學習、分析和解決問題能力，可以迅速掌握業(yè)務(wù)邏輯并轉(zhuǎn)化為技術(shù)方案，能獨立撰寫項目解決方案、項目技術(shù)文檔;
7、具有較強的內(nèi)外溝通能力，良好的團隊意識和協(xié)作精神;
8、機器學習技術(shù)、數(shù)據(jù)挖掘、人工智能經(jīng)驗豐富者優(yōu)先考慮;
9、具有能源電力行業(yè)工作經(jīng)驗者優(yōu)先。
大數(shù)據(jù)架構(gòu)師崗位的主要職責概述 篇4
職責：
1.參與公司數(shù)據(jù)平臺系統(tǒng)規(guī)劃和架構(gòu)工作，主導系統(tǒng)的架構(gòu)設(shè)計和項目實施，確保項目質(zhì)量和關(guān)鍵性能指標達成;
2.統(tǒng)籌和推進制造工廠內(nèi)部數(shù)據(jù)系統(tǒng)的構(gòu)建，搭建不同來源數(shù)據(jù)之間的邏輯關(guān)系，能夠為公司運營診斷、運營效率提升提供數(shù)據(jù)支持;
3.負責數(shù)據(jù)系統(tǒng)需求對接、各信息化系統(tǒng)數(shù)據(jù)對接、軟件供應(yīng)商管理工作
5.根據(jù)現(xiàn)狀制定總體的數(shù)據(jù)治理方案及數(shù)據(jù)體系建立，包括數(shù)據(jù)采集、接入、分類、開發(fā)標準和規(guī)范，制定全鏈路數(shù)據(jù)治理方案;深入挖掘公司數(shù)據(jù)業(yè)務(wù)，超強的數(shù)據(jù)業(yè)務(wù)感知力，挖掘數(shù)據(jù)價值，推動數(shù)據(jù)變現(xiàn)場景的落地，為決策及業(yè)務(wù)賦能;
6.定義不同的數(shù)據(jù)應(yīng)用場景，推動公司的數(shù)據(jù)可視化工作，提升公司數(shù)據(jù)分析效率和數(shù)據(jù)價值轉(zhuǎn)化。
任職要求：
1.本科以上學歷，8年以上軟件行業(yè)從業(yè)經(jīng)驗，5年以上大數(shù)據(jù)架構(gòu)設(shè)計經(jīng)驗，熟悉BI平臺、大數(shù)據(jù)系統(tǒng)相關(guān)技術(shù)架構(gòu)及技術(shù)標準;
2.熟悉數(shù)據(jù)倉庫、熟悉數(shù)據(jù)集市，了解數(shù)據(jù)挖掘、數(shù)據(jù)抽取、數(shù)據(jù)清洗、數(shù)據(jù)建模相關(guān)技術(shù);
3.熟悉大數(shù)據(jù)相關(guān)技術(shù)：Hadoop、Hive、Hbase、Storm、Flink、Spark、Kafka、RabbitMQ;
4.熟悉制造企業(yè)信息化系統(tǒng)及相關(guān)數(shù)據(jù)庫技術(shù);
5.具備大數(shù)據(jù)平臺、計算存儲平臺、可視化開發(fā)平臺經(jīng)驗，具有制造企業(yè)大數(shù)據(jù)系統(tǒng)項目開發(fā)或?qū)嵤┙?jīng)驗優(yōu)先;
6.對數(shù)據(jù)敏感，具備優(yōu)秀的業(yè)務(wù)需求分析和報告展示能力，具備制造企業(yè)數(shù)據(jù)分析和數(shù)據(jù)洞察、大數(shù)據(jù)系統(tǒng)的架構(gòu)設(shè)計能力，了解主流的報表工具或新興的前端報表工具;
7.有較強的溝通和組織協(xié)調(diào)能力，具備結(jié)果導向思維，有相關(guān)項目管理經(jīng)驗優(yōu)先。
大數(shù)據(jù)架構(gòu)師崗位的.主要職責概述 篇5
職責：
1.負責產(chǎn)品級業(yè)務(wù)系統(tǒng)架構(gòu)(如業(yè)務(wù)數(shù)據(jù)對象識別，數(shù)據(jù)實體、數(shù)據(jù)屬性分析，數(shù)據(jù)標準、端到端數(shù)據(jù)流等)的設(shè)計與優(yōu)化。協(xié)助推動跨領(lǐng)域重大數(shù)據(jù)問題的分析、定位、解決方案設(shè)計，從架構(gòu)設(shè)計上保障系統(tǒng)高性能、高可用性、高安全性、高時效性、分布式擴展性，并對系統(tǒng)質(zhì)量負責。
2.負責云數(shù)據(jù)平臺的架構(gòu)設(shè)計和數(shù)據(jù)處理體系的優(yōu)化，推動云數(shù)據(jù)平臺建設(shè)和持續(xù)升級，并制定云數(shù)據(jù)平臺調(diào)用約束和規(guī)范。
3.結(jié)合行業(yè)應(yīng)用的需求負責數(shù)據(jù)流各環(huán)節(jié)上的方案選型，主導云數(shù)據(jù)平臺建設(shè)，參與核心代碼編寫、審查;數(shù)據(jù)的統(tǒng)計邏輯回歸算法、實時交互分析;數(shù)據(jù)可視化方案等等的選型、部署、集成融合等等。
4.對云數(shù)據(jù)平臺的關(guān)注業(yè)內(nèi)技術(shù)動態(tài)，持續(xù)推動平臺技術(shù)架構(gòu)升級，以滿足公司不同階段的數(shù)據(jù)需求。
任職要求：
1.熟悉云計算基礎(chǔ)平臺，包括Linux(Ubuntu/CentOS)和KVM、OpenStack/K8S等基礎(chǔ)環(huán)境，熟悉控制、計算、存儲和網(wǎng)絡(luò);
2.掌握大型分布式系統(tǒng)的技術(shù)棧，如：CDN、負載均衡、服務(wù)化/異步化、分布式緩存、NoSQL、數(shù)據(jù)庫垂直及水平擴容;熟悉大數(shù)據(jù)應(yīng)用端到端的相關(guān)高性能產(chǎn)品。
3.精通Java，Python，Shell編程語言，精通SQL、NoSQL等數(shù)據(jù)庫增刪改查的操作優(yōu)化;
4.PB級別實戰(zhàn)數(shù)據(jù)平臺和生產(chǎn)環(huán)境的實施、開發(fā)和管理經(jīng)驗;
5.熟悉Docker等容器的編排封裝，熟悉微服務(wù)的開發(fā)和日常調(diào)度;
6.計算機、軟件、電子信息及通信等相關(guān)專業(yè)本科以上學歷，5年以上軟件工程開發(fā)經(jīng)驗，2年以上大數(shù)據(jù)架構(gòu)師工作經(jīng)驗。
大數(shù)據(jù)架構(gòu)師崗位的主要職責概述 篇6
職責描述：
1、負責集團大數(shù)據(jù)資產(chǎn)庫的技術(shù)架構(gòu)、核心設(shè)計方案，并推動落地；
2、帶領(lǐng)大數(shù)據(jù)技術(shù)團隊實現(xiàn)各項數(shù)據(jù)接入、數(shù)據(jù)挖掘分析及數(shù)據(jù)可視化；
3、新技術(shù)預研，解決團隊技術(shù)難題。
任職要求：
1、在技術(shù)領(lǐng)域有5年以上相關(guān)經(jīng)驗，3年以上的架構(gòu)設(shè)計或產(chǎn)品經(jīng)理經(jīng)驗；
2、具有2年以上大數(shù)據(jù)產(chǎn)品和數(shù)據(jù)分析相關(guān)項目經(jīng)驗；
3、精通大數(shù)據(jù)分布式系統(tǒng)（hadoop、spark、hive等）的架構(gòu)原理、技術(shù)設(shè)計；精通linux系統(tǒng)；精通一門主流編程語言，java優(yōu)先。
大數(shù)據(jù)架構(gòu)師崗位的主要職責概述 篇7
崗位職責：
1、基于公司大數(shù)據(jù)基礎(chǔ)和數(shù)據(jù)資產(chǎn)積累，負責大數(shù)據(jù)應(yīng)用整體技術(shù)架構(gòu)的設(shè)計、優(yōu)化，建設(shè)大數(shù)據(jù)能力開放平臺；負責大數(shù)據(jù)應(yīng)用產(chǎn)品的架構(gòu)設(shè)計、技術(shù)把控工作。
2、負責制定大數(shù)據(jù)應(yīng)用系統(tǒng)的數(shù)據(jù)安全管控體系和數(shù)據(jù)使用規(guī)范。
3、作為大數(shù)據(jù)技術(shù)方案到產(chǎn)品實現(xiàn)的技術(shù)負責人，負責關(guān)鍵技術(shù)點攻堅工作，負責內(nèi)部技術(shù)推廣、培訓及知識轉(zhuǎn)移工作。
4、負責大數(shù)據(jù)系統(tǒng)研發(fā)項目任務(wù)規(guī)劃、整體進度、風險把控，有效協(xié)同團隊成員并組織跨團隊技術(shù)協(xié)作，保證項目質(zhì)量與進度。
5、負責提升產(chǎn)品技術(shù)團隊的技術(shù)影響力，針對新人、普通開發(fā)人員進行有效輔導，幫助其快速成長。
任職資格：
1、計算機、數(shù)學或相關(guān)專業(yè)本科以上學歷，5—20xx年工作經(jīng)驗，具有大型系統(tǒng)的技術(shù)架構(gòu)應(yīng)用架構(gòu)數(shù)據(jù)架構(gòu)相關(guān)的實踐工作經(jīng)驗。
2、有分布式系統(tǒng)分析及架構(gòu)設(shè)計經(jīng)驗，熟悉基于計算集群的軟件系統(tǒng)架構(gòu)和實施經(jīng)驗。
3、掌握Hadoop/Spark/Storm生態(tài)圈的主流技術(shù)及產(chǎn)品，深入了解Hadoop/Spark/Storm生態(tài)圈產(chǎn)品的工作原理及應(yīng)用場景。
4、掌握Mysql/Oracle等常用關(guān)系型數(shù)據(jù)庫，能夠?qū)QL進行優(yōu)化。
5、熟悉分布式系統(tǒng)基礎(chǔ)設(shè)施中常用的技術(shù)，如緩存（Varnish、Memcache、Redis）、消息中間件（Rabbit MQ、Active MQ、Kafka、NSQ）等；有實踐經(jīng)驗者優(yōu)先。
6、熟悉Linux，Java基礎(chǔ)扎實，至少3—5年以上Java應(yīng)用開發(fā)經(jīng)驗，熟悉常用的設(shè)計模式和開源框架。
大數(shù)據(jù)架構(gòu)師崗位的主要職責概述 篇8
崗位職責：
1、負責公司大數(shù)據(jù)平臺架構(gòu)的技術(shù)選型和技術(shù)難點攻關(guān)工作；
2、依據(jù)行業(yè)數(shù)據(jù)現(xiàn)狀和客戶需求，完成行業(yè)大數(shù)據(jù)的特定技術(shù)方案設(shè)計與撰寫；
3、負責研究跟進大數(shù)據(jù)架構(gòu)領(lǐng)域新興技術(shù)并在公司內(nèi)部進行分享；
4、參與公司大數(shù)據(jù)項目的技術(shù)交流、解決方案定制以及項目的招投標工作；
5、參與公司大數(shù)據(jù)項目前期的架構(gòu)設(shè)計工作；
任職要求：
1、計算機及相關(guān)專業(yè)本科以上，5年以上數(shù)據(jù)類項目（數(shù)據(jù)倉庫、商務(wù)智能）實施經(jīng)驗，至少2年以上大數(shù)據(jù)架構(gòu)設(shè)計和開發(fā)經(jīng)驗，至少主導過一個大數(shù)據(jù)平臺項目架構(gòu)設(shè)計；
2、精通大數(shù)據(jù)生態(tài)圈的技術(shù)，包括但不限于MapReduce、Spark、Hadoop、Kafka、Mongodb、Redis、Flume、Storm、Hbase、Hive，具備數(shù)據(jù)統(tǒng)計查詢性能優(yōu)化能力。熟悉星環(huán)大數(shù)據(jù)產(chǎn)品線及有過產(chǎn)品項目實施經(jīng)驗者優(yōu)先；
3、優(yōu)秀的方案撰寫能力，思路清晰，邏輯思維強，能夠根據(jù)業(yè)務(wù)需求設(shè)計合理的解決方案；
4、精通ORACLE、DB2、mySql等主流關(guān)系型數(shù)據(jù)庫，熟悉數(shù)據(jù)倉庫建設(shè)思路和數(shù)據(jù)分層架構(gòu)思想；
5。熟練掌握java、R、python等1—2門數(shù)據(jù)挖掘開發(fā)語言；
6。熟悉云服務(wù)平臺及微服務(wù)相關(guān)架構(gòu)思想和技術(shù)路線，熟悉阿里云或騰訊云產(chǎn)品者優(yōu)先；
7、有煙草或制造行業(yè)大數(shù)據(jù)解決方案售前經(jīng)驗者優(yōu)先；
8、能適應(yīng)售前支持和項目實施需要的短期出差；
大數(shù)據(jù)架構(gòu)師崗位的主要職責概述 篇9
崗位職責：
1、負責相關(guān)開源系統(tǒng)/組件的性能、穩(wěn)定性、可靠性等方面的深度優(yōu)化；
2、負責解決項目上線后生產(chǎn)環(huán)境的各種實際問題，保障大數(shù)據(jù)平臺在生產(chǎn)上的安全、平穩(wěn)運行；
3、推動優(yōu)化跨部門的業(yè)務(wù)流程，參與業(yè)務(wù)部門的技術(shù)方案設(shè)計、評審、指導；
4、負責技術(shù)團隊人員培訓、人員成長指導。
5、應(yīng)項目要求本月辦公地址在錦江區(qū)金石路316號新希望中鼎國際辦公，月底項目結(jié)束后在總部公司辦公
任職要求：
1、熟悉linux、JVM底層原理，能作為技術(shù)擔當，解決核心技術(shù)問題；
2、3年以上大數(shù)據(jù)平臺項目架構(gòu)或開發(fā)經(jīng)驗，對大數(shù)據(jù)生態(tài)技術(shù)體系有全面了解，如Yarn、Spark、HBase、Hive、Elasticsearch、Kafka、PrestoDB、Phoenix等；
3、掌握git、maven、gradle、junit等工具和實踐，注重文檔管理、注重工程規(guī)范優(yōu)先；
4、熟悉Java后臺開發(fā)體系，具備微服務(wù)架構(gòu)的項目實施經(jīng)驗，有Dubbo/Spring cloud微服務(wù)架構(gòu)設(shè)計經(jīng)驗優(yōu)先；
5、性格開朗、善于溝通，有極強的技術(shù)敏感性和自我驅(qū)動學習能力，注重團隊意識。
大數(shù)據(jù)架構(gòu)師崗位的主要職責概述 篇10
職責描述：
1、負責大數(shù)據(jù)平臺框架的規(guī)劃設(shè)計、搭建、優(yōu)化和運維；
2、負責架構(gòu)持續(xù)優(yōu)化及系統(tǒng)關(guān)鍵模塊的設(shè)計開發(fā)，協(xié)助團隊解決開發(fā)過程中的技術(shù)難題；
3、負責大數(shù)據(jù)相關(guān)新技術(shù)的調(diào)研，關(guān)注大數(shù)據(jù)技術(shù)發(fā)展趨勢、研究開源技術(shù)、將新技術(shù)應(yīng)用到大數(shù)據(jù)平臺，推動數(shù)據(jù)平臺發(fā)展；
4、負責數(shù)據(jù)平臺開發(fā)規(guī)范制定，數(shù)據(jù)建模及核心框架開發(fā)。
任職要求：
1、計算機、數(shù)學等專業(yè)本科及以上學歷；
2、具有5年及以上大數(shù)據(jù)相關(guān)工作經(jīng)驗；
3、具有扎實的大數(shù)據(jù)和數(shù)據(jù)倉庫的理論功底，負責過大數(shù)據(jù)平臺或數(shù)據(jù)倉庫設(shè)計；
4、基于hadoop的大數(shù)據(jù)體系有深入認識，具備相關(guān)產(chǎn)品（hadoop、hive、hbase、spark、storm、 flume、kafka、es等）項目應(yīng)用研發(fā)經(jīng)驗，有hadoop集群搭建和管理經(jīng)驗；
5、熟悉傳統(tǒng)數(shù)據(jù)倉庫數(shù)據(jù)建模，etl架構(gòu)和開發(fā)流程，使用過kettle、talend、informatic等至少一種工具；
6、自驅(qū)力強、優(yōu)秀的團隊意識和溝通能力，對新技術(shù)有好奇心，學習能力和主動性強，有鉆研精神，充滿激情，樂于接受挑戰(zhàn)；
NoSQL是什么意思
什么是NoSQL數(shù)據(jù)庫？從名稱“非SQL”或“非關(guān)系型”衍生而來，這些數(shù)據(jù)庫不使用類似SQL的查詢語言，通常稱為結(jié)構(gòu)化存儲。這些數(shù)據(jù)庫自1960年就已經(jīng)存在，但是直到現(xiàn)在一些大公司（例如Google和Facebook）開始使用它們時，這些數(shù)據(jù)庫才流行起來。該數(shù)據(jù)庫最明顯的優(yōu)勢是擺脫了一組固定的列、連接和類似SQL的查詢語言的限制。有時，NoSQL這個名稱也可能表示“不僅僅SQL”，來確保它們可能支持SQL。 NoSQL數(shù)據(jù)庫使用諸如鍵值、寬列、圖形或文檔之類的數(shù)據(jù)結(jié)構(gòu)，并且可以如JSON之類的不同格式存儲。
nosql是什么
NoSQL，泛指非關(guān)系型的數(shù)據(jù)庫。隨著互聯(lián)網(wǎng)web2.0網(wǎng)站的興起，傳統(tǒng)的關(guān)系數(shù)據(jù)庫在應(yīng)付web2.0網(wǎng)站，特別是超大規(guī)模和高并發(fā)的SNS類型的web2.0純動態(tài)網(wǎng)站已經(jīng)顯得力不從心，暴露了很多難以克服的問題，而非關(guān)系型的數(shù)據(jù)庫則由于其本身的特點得到了非常迅速的發(fā)展。NoSQL數(shù)據(jù)庫的產(chǎn)生就是為了解決大規(guī)模數(shù)據(jù)集合多重數(shù)據(jù)種類帶來的挑戰(zhàn)，尤其是大數(shù)據(jù)應(yīng)用難題。
雖然NoSQL流行語火起來才短短一年的時間，但是不可否認，現(xiàn)在已經(jīng)開始了第二代運動。盡管早期的堆棧代碼只能算是一種實驗，然而現(xiàn)在的系統(tǒng)已經(jīng)更加的成熟、穩(wěn)定。不過現(xiàn)在也面臨著一個嚴酷的事實：技術(shù)越來越成熟——以至于原來很好的NoSQL數(shù)據(jù)存儲不得不進行重寫，也有少數(shù)人認為這就是所謂的2.0版本。這里列出一些比較知名的工具，可以為大數(shù)據(jù)建立快速、可擴展的存儲庫。
NoSQL(NoSQL = Not Only SQL )，意即“不僅僅是SQL”，是一項全新的數(shù)據(jù)庫革命性運動，早期就有人提出，發(fā)展至2009年趨勢越發(fā)高漲。NoSQL的擁護者們提倡運用非關(guān)系型的數(shù)據(jù)存儲，相對于鋪天蓋地的關(guān)系型數(shù)據(jù)庫運用，這一概念無疑是一種全新的思維的注入。
對于NoSQL并沒有一個明確的范圍和定義，但是他們都普遍存在下面一些共同特征：
不需要預定義模式：不需要事先定義數(shù)據(jù)模式，預定義表結(jié)構(gòu)。數(shù)據(jù)中的每條記錄都可能有不同的屬性和格式。當插入數(shù)據(jù)時，并不需要預先定義它們的模式。
無共享架構(gòu)：相對于將所有數(shù)據(jù)存儲的存儲區(qū)域網(wǎng)絡(luò)中的全共享架構(gòu)。NoSQL往往將數(shù)據(jù)劃分后存儲在各個本地服務(wù)器上。因為從本地磁盤讀取數(shù)據(jù)的性能往往好于通過網(wǎng)絡(luò)傳輸讀取數(shù)據(jù)的性能，從而提高了系統(tǒng)的性能。
彈性可擴展：可以在系統(tǒng)運行的時候，動態(tài)增加或者刪除結(jié)點。不需要停機維護，數(shù)據(jù)可以自動遷移。
分區(qū)：相對于將數(shù)據(jù)存放于同一個節(jié)點，NoSQL數(shù)據(jù)庫需要將數(shù)據(jù)進行分區(qū)，將記錄分散在多個節(jié)點上面。并且通常分區(qū)的同時還要做復制。這樣既提高了并行性能，又能保證沒有單點失效的問題。
異步復制：和RAID存儲系統(tǒng)不同的是，NoSQL中的復制，往往是基于日志的異步復制。這樣，數(shù)據(jù)就可以盡快地寫入一個節(jié)點，而不會被網(wǎng)絡(luò)傳輸引起遲延。缺點是并不總是能保證一致性，這樣的方式在出現(xiàn)故障的時候，可能會丟失少量的數(shù)據(jù)。
BASE：相對于事務(wù)嚴格的ACID特性，NoSQL數(shù)據(jù)庫保證的是BASE特性。BASE是最終一致性和軟事務(wù)。
NoSQL數(shù)據(jù)庫并沒有一個統(tǒng)一的架構(gòu)，兩種NoSQL數(shù)據(jù)庫之間的不同，甚至遠遠超過兩種關(guān)系型數(shù)據(jù)庫的不同?？梢哉f，NoSQL各有所長，成功的NoSQL必然特別適用于某些場合或者某些應(yīng)用，在這些場合中會遠遠勝過關(guān)系型數(shù)據(jù)庫和其他的NoSQL。
什么是NoSQL，它有什么優(yōu)缺點？
NoSQL，指的是非關(guān)系型的數(shù)據(jù)庫。NoSQL有時也稱作Not Only SQL的縮寫，是對不同于傳統(tǒng)的關(guān)系型數(shù)據(jù)庫的數(shù)據(jù)庫管理系統(tǒng)的統(tǒng)稱。
NoSQL用于超大規(guī)模數(shù)據(jù)的存儲。（例如谷歌或Facebook每天為他們的用戶收集萬億比特的數(shù)據(jù)）。這些類型的數(shù)據(jù)存儲不需要固定的模式，無需多余操作就可以橫向擴展。
NoSQL的優(yōu)點/缺點
優(yōu)點:
- 高可擴展性
- 分布式計算
- 低成本
- 架構(gòu)的靈活性，半結(jié)構(gòu)化數(shù)據(jù)
- 沒有復雜的關(guān)系
缺點:
- 沒有標準化
- 有限的查詢功能（到目前為止）
- 最終一致是不直觀的程序 （BY三人行慕課）
什么是NoSQL數(shù)據(jù)庫？
2. 什么是NoSQL？
2.1 NoSQL 概述
NoSQL(NoSQL = Not Only SQL )，意即“不僅僅是SQL”，
泛指非關(guān)系型的數(shù)據(jù)庫。隨著互聯(lián)網(wǎng)web2.0網(wǎng)站的興起，傳統(tǒng)的關(guān)系數(shù)據(jù)庫在應(yīng)付web2.0網(wǎng)站，特別是超大規(guī)模和高并發(fā)的SNS類型的web2.0純動態(tài)網(wǎng)站已經(jīng)顯得力不從心，暴露了很多難以克服的問題，而非關(guān)系型的數(shù)據(jù)庫則由于其本身的特點得到了非常迅速的發(fā)展。NoSQL數(shù)據(jù)庫的產(chǎn)生就是為了解決大規(guī)模數(shù)據(jù)集合多重數(shù)據(jù)種類帶來的挑戰(zhàn)，尤其是大數(shù)據(jù)應(yīng)用難題，包括超大規(guī)模數(shù)據(jù)的存儲。
（例如谷歌或Facebook每天為他們的用戶收集萬億比特的數(shù)據(jù)）。這些類型的數(shù)據(jù)存儲不需要固定的模式，無需多余操作就可以橫向擴展。
2.2 NoSQL代表
MongDB、 Redis、Memcache
3. 關(guān)系型數(shù)據(jù)庫與NoSQL的區(qū)別？
3.1 RDBMS
高度組織化結(jié)構(gòu)化數(shù)據(jù)
結(jié)構(gòu)化查詢語言（SQL）
數(shù)據(jù)和關(guān)系都存儲在單獨的表中。
數(shù)據(jù)操縱語言，數(shù)據(jù)定義語言
嚴格的一致性
基礎(chǔ)事務(wù)
ACID
關(guān)系型數(shù)據(jù)庫遵循ACID規(guī)則
事務(wù)在英文中是transaction，和現(xiàn)實世界中的交易很類似，它有如下四個特性：
A (Atomicity) 原子性
原子性很容易理解，也就是說事務(wù)里的所有操作要么全部做完，要么都不做，事務(wù)成功的條件是事務(wù)里的所有操作都成功，只要有一個操作失敗，整個事務(wù)就失敗，需要回滾。比如銀行轉(zhuǎn)賬，從A賬戶轉(zhuǎn)100元至B賬戶，分為兩個步驟：1）從A賬戶取100元；2）存入100元至B賬戶。這兩步要么一起完成，要么一起不完成，如果只完成第一步，第二步失敗，錢會莫名其妙少了100元。
C (Consistency) 一致性
一致性也比較容易理解，也就是說數(shù)據(jù)庫要一直處于一致的狀態(tài)，事務(wù)的運行不會改變數(shù)據(jù)庫原本的一致性約束。
I (Isolation) 獨立性
所謂的獨立性是指并發(fā)的事務(wù)之間不會互相影響，如果一個事務(wù)要訪問的數(shù)據(jù)正在被另外一個事務(wù)修改，只要另外一個事務(wù)未提交，它所訪問的數(shù)據(jù)就不受未提交事務(wù)的影響。比如現(xiàn)有有個交易是從A賬戶轉(zhuǎn)100元至B賬戶，在這個交易還未完成的情況下，如果此時B查詢自己的賬戶，是看不到新增加的100元的
D (Durability) 持久性
持久性是指一旦事務(wù)提交后，它所做的修改將會永久的保存在數(shù)據(jù)庫上，即使出現(xiàn)宕機也不會丟失。
3.2 NoSQL
代表著不僅僅是SQL
沒有聲明性查詢語言
沒有預定義的模式
鍵 - 值對存儲，列存儲，文檔存儲，圖形數(shù)據(jù)庫
最終一致性，而非ACID屬性
非結(jié)構(gòu)化和不可預知的數(shù)據(jù)
CAP定理
高性能，高可用性和可伸縮性
分布式數(shù)據(jù)庫中的CAP原理(了解)
CAP定理：
Consistency(一致性), 數(shù)據(jù)一致更新，所有數(shù)據(jù)變動都是同步的
Availability(可用性), 好的響應(yīng)性能
Partition tolerance(分區(qū)容錯性) 可靠性
P: 系統(tǒng)中任意信息的丟失或失敗不會影響系統(tǒng)的繼續(xù)運作。
定理：任何分布式系統(tǒng)只可同時滿足二點，沒法三者兼顧。
CAP理論的核心是：一個分布式系統(tǒng)不可能同時很好的滿足一致性，可用性和分區(qū)容錯性這三個需求，
因此，根據(jù) CAP 原理將 NoSQL 數(shù)據(jù)庫分成了滿足 CA 原則、滿足 CP 原則和滿足 AP 原則三 大類：
CA - 單點集群，滿足一致性，可用性的系統(tǒng)，通常在可擴展性上不太強大。
CP - 滿足一致性，分區(qū)容忍性的系統(tǒng)，通常性能不是特別高。
AP - 滿足可用性，分區(qū)容忍性的系統(tǒng)，通?？赡軐σ恢滦砸蟮鸵恍?。
CAP理論就是說在分布式存儲系統(tǒng)中，最多只能實現(xiàn)上面的兩點。
而由于當前的網(wǎng)絡(luò)硬件肯定會出現(xiàn)延遲丟包等問題，所以分區(qū)容忍性是我們必須需要實現(xiàn)的。
所以我們只能在一致性和可用性之間進行權(quán)衡，沒有NoSQL系統(tǒng)能同時保證這三點。
說明：C：強一致性 A：高可用性 P：分布式容忍性
舉例：
CA：傳統(tǒng)Oracle數(shù)據(jù)庫
AP：大多數(shù)網(wǎng)站架構(gòu)的選擇
CP：Redis、Mongodb
注意：分布式架構(gòu)的時候必須做出取舍。
一致性和可用性之間取一個平衡。多余大多數(shù)web應(yīng)用，其實并不需要強一致性。
因此犧牲C換取P，這是目前分布式數(shù)據(jù)庫產(chǎn)品的方向。
4. 當下NoSQL的經(jīng)典應(yīng)用
當下的應(yīng)用是 SQL 與 NoSQL 一起使用的。
代表項目：阿里巴巴商品信息的存放。
去 IOE 化。
ps：I 是指 IBM 的小型機，很貴的，好像好幾萬一臺；O 是指 Oracle 數(shù)據(jù)庫，也很貴的，好幾萬呢；M 是指 EMC 的存儲設(shè)備，也很貴的。
難點：
數(shù)據(jù)類型多樣性。
數(shù)據(jù)源多樣性和變化重構(gòu)。
數(shù)據(jù)源改造而服務(wù)平臺不需要大面積重構(gòu)。
本文名稱：埋點數(shù)據(jù)nosql,埋點數(shù)據(jù)設(shè)計
文章網(wǎng)址：http://www.dlmjj.cn/article/hdhsee.html
