原創|實施案例|編輯:況魚杰|2020-07-24 14:37:55.620|閱讀 237 次
概述:美光數十年來一直深入研究大數據。但是,隨著適用于大數據的Hadoop開源解決方案的增長,該公司需要一個數據平臺,使其能夠將更多的精力放在分析上,而不是將精力放在數據管理上。此外,該公司還想解決其Hadoop用戶在使用實時數據分析時遇到的延遲問題。
# 界面/圖表報表/文檔/IDE等千款熱門軟控件火熱銷售中 >>
相關鏈接:
美光科技公司(Micron)設計并開發出了世界頂尖的存儲和半導體技術。他們開發的各項技術將無限可能化為現實。事實上,你可能每天都在各種產品中用到這些存儲:從計算、網絡和服務器應用,到移動、嵌入式、消費類、汽車和工業設計。
40多年來,該公司在全球最重要的技術進步中發揮了重要作用,為各種應用提供了最佳的內存和存儲系統。美光制造了業界最廣泛的閃存和存儲技術產品組合。其中許多是從硅片開始的,該硅片在美光的全球制造(“ fab”)地點之一中切成小片,即半導體材料的薄層,然后組裝成閃存產品。
美光的解決方案團隊使用數據分析測試并驗證了用于提高閃存存儲能力的假設,這些分析主要關注于流行的工作負載和用例。企業數據的分析團隊支持正在開發分析解決方案的數據科學家和工程師,為Micron提供競爭優勢。
內存制造行業的競爭優勢以百分之一的分數衡量,因此美光需要花費大量時間來提高產量,縮短周期,并減少將產品投入市場所需的時間,這樣才能提高美光在市場的競爭優勢。
美光數十年來一直深入研究大數據。但是,隨著適用于大數據的Hadoop開源解決方案的增長,該公司需要一個數據平臺,使其能夠將更多的精力放在分析上,而不是將精力放在數據管理上。 此外,該公司還想解決其Hadoop用戶在使用實時數據分析時遇到的延遲問題。
美光注意到Hortonworks可以提供公司正在尋找的現代數據體系結構,因此選擇了Hortonworks Data Platform(HDP)3.0,以使他們可以專注于分析,解決延遲并保持競爭力。
美光最初將HDP用于其功能測試數據,這是一個非常大的復雜數據集。 此數據選中了解決方案團隊提高過的“三個V”的所有框。每年的數據量超過PB,每個芯片的離散測量超過10,000次,在某些情況下,每個芯片的測量超過百萬次,而且數據捕獲的速度也很快,因為該公司每天通過數百萬個集成電路或裸片收集超過一萬億個測量值。
美光在這項初始功能測試中獲得了許多成功,但其中一個特別令人矚目——一種半導體制造偏移(產品或工藝偏差的術語),其中一些管芯超出規格,需要識別并包含 ,并且偏移原因已修復。質量保證小組正在使用舊系統并瀏覽生產數據,他們認為他們可以在大約7天內識別出模具。知道這還不夠快,所以他們轉向HDP并使用Hive查詢數據。
“我們能夠在一小時內識別出所有受影響的模具,” 數據團隊領導人說。 “對于美光和我們的客戶而言,這是巨大的成功–對于HDP而言,也是巨大的成功。”
自從最初的功能測試數據集以來,該團隊已將100多個其他數據集添加到環境中,以及100多個數據科學家和數據工程師來開發分析解決方案。這些解決方案已吸引了1000多名當前正在使用該環境的用戶。美光將Apache NiFi用于數據接收管道,以提供安全的全局制造流程。
數據團隊領導人說:“在每天中,有超過500,000個工作在我們的環境中運行,而它們產生的分析對于美光的業務成功至關重要。” “我們運行的大多數分析都是圍繞制造業進行的,以提高產量,周期時間和新產品投入。”
美光公司在存儲解決方案中心對HDP進行的首次調查是測試所有硬盤驅動器(HDD)存儲與混合HDD和SSD的Hadoop性能。第一個測試方案將每個節點單個SSD與HDP 3.0和Hive加速環境結合在一起。該測試顯示,與10K RPM HDD群集相比,性能提高了兩倍半,從而加快了使用Hadoop進行大數據分析的速度。
美光面臨的挑戰是使用他們的Micron IP來查看是否可以消除Hadoop用戶的延遲,而現在能夠通過SSD和HDP 3.0做到這一點。該平臺包括關鍵創新,最終可以為美光的業務提供更快的洞察力。
隨著其HDP環境的發展壯大,美光科技公司(Micron)感謝Hortonworks提供的支持。數據團隊領導人說:“ Hortonworks在工程上的支持一直是我們在該平臺上取得成功的關鍵,并且確實有助于推動我們為客戶提供出色的解決方案。”
在Hadoop生態系統中,規模最大、知名度最高的公司則是Cloudera。2018年與世界大數據巨頭Hortonworks合并,2019年被Cloud Report中評為大數據和Spark的領跑者。
在 Cloudera,我們相信數據可以使今天的不可能,在明天成為可能。我們使人們能夠將復雜的數據轉換為清晰而可行的洞察力。Cloudera 為任何地方的任何數據從邊緣到人工智能提供企業數據云平臺服務。在開源社區不懈創新的支持下,Cloudera推動了全球最大型企業的數字化轉型歷程。
慧都大數據專業團隊為企業提供Cloudera大數據平臺搭建,免費業務咨詢,定制開發等完整服務,快速、輕松、低成本將任何Hadoop集群從試用階段轉移到生產階段。
歡迎撥打慧都熱線023-68661681或咨詢慧都在線客服,我們有專業的大數據團隊,為您提供免費大數據相關業務咨詢!
本站文章除注明轉載外,均為本站原創或翻譯。歡迎任何形式的轉載,但請務必注明出處、不得修改原文相關鏈接,如果存在內容上的異議請郵件反饋至chenjj@fc6vip.cn