夜夜爽一区二区三区精品,精品一区二区三区免费毛片爱,日本美女一区二区三区,色窝窝无码一区二区三区色欲

美林數據
ABOUT US
美林數據技術股份有限公司(簡稱:美林數據,NEEQ:831546)是國內知名的數據治理和數據分析服務提供商。

Tempo大數據分析平臺之文本分析

2020-04-09 11:02:55
據IDC報告,當下數據以每年50%左右的速度快速增長,截至2020年全球數據規模將達44ZB,其中文本等非結構化數據占比高達75%-85%,因此對文本等非結構數據的挖掘分析顯得尤為迫切和重要。
文本挖掘分析常規挖掘流程
圖1,全球非結構化數據量增長情況
文本分析(Text Mining)指從大量非結構化文本數據中抽取未知的、可理解的、最終可用的知識,并運用這些知識更好地組織信息,進而獲取用戶感興趣或有用模式的過程。
文本分析流程大致可以描述為:基于網頁、文檔、字符等非結構化文本數據,利用自然語言處理技術實現非結構化文本數據結構化,再結合機器學習、統計分析、可視化分析等技術進行挖掘分析,進而實現搜索引擎、輿情分析、新聞分類、郵件過濾、智能問答、話題分析等業務場景應用。其中,平臺文本分析模塊即是實現自然語言處理常用功能模塊,比如:分詞、信息抽取、特征選擇、主旨話題分析、關鍵詞、命名實體識別、向量空間、情感分析、垃圾信息檢測等功能。
文本挖掘分析常規挖掘流程
圖2,文本挖掘分析常規挖掘流程
Tempo大數據分析平臺文本分析模塊前期建設理念是基于淺層語言分析實現非結構化文本數據結構化,進而結合平臺機器學習、挖掘分析等技術實現文本分析挖掘。Tempo大數據分析平臺文本挖掘模塊功能模塊架構如下圖所示,功能架構分四個層次:數據層、基礎層、分析層、應用層。數據層是平臺輸入的待處理文本數據,基礎層為平臺自然語言處理模塊提供支撐,分析層主要完成非結構化文本的自然語言處理并基于結果進一步做機器學習、可視化分析、統計分析,應用層基于分析層的結果實現相關文本處理業務場景應用。
Tempo大數據分析平臺文本挖掘模塊功能架構
圖3,Tempo大數據分析平臺文本挖掘模塊功能架構
Tempo大數據分析平臺文本挖掘核心是基于自然語言處理實現非結構化文本的處理功能,平臺自然語言處理模塊的功能概要如下表:
表1,自然語言處理模塊的功能概要
自然語言處理模塊的功能概要
基于自然語言處理和機器學習做文本挖掘的處理流程:首先對文本數據進行分詞處理,其次,基于分詞數據進行特征詞選擇、向量空間實現文本向量化,至此即可打通和平臺機器學習(分類算法、聚類算法)的接口,最后,基于機器學習模塊實現文本分類、文本聚類等相關業務場景應用,比如,新聞分類、文檔聚類、輿情分析等。
如圖4,基于新聞咨詢數據實現的新聞自動分類建模流程,左半部分是基于自然語言處理(分詞、特征選擇、向量空間模塊)實現文本向量化,右半部分基于平臺的邏輯回歸分類算法構建新聞分類器,并對模型進行評估分析。
新聞分類挖掘流程
圖4,新聞分類挖掘流程
基于自然語言處理和可視化分析做文本挖掘的處理流程:首先對文本數據進行分詞處理,其次,基于分詞數據進行情感分析、信息抽取、信息檢測、關鍵詞抽取、主旨話題分析等文本分析,將以上分析結果由結構化輸出節點進行結果重構輸出,最后,可基于可視化分析技術實現文本分析。
如圖5,基于電商平臺手機評論數據實現手機產品市場分析流程:左半部分基于自然語言處理(分詞、信息抽取、觀點情感分析、關鍵詞抽取、主旨話題分析)實現文本相關分析:

  • 信息抽取實現從手機產品描述中抽取手機品牌和手機型號信息;
  • 情感分析判別評論的情感傾向;
  • 主旨話題分析評論文本的關注焦點;
右半部分將整合的數據輸出到數據庫,可進一步接入可視化分析平臺實現手機產品市場分析場景:
  • 不同品牌、型號的手機在市場上的受歡迎程度分析;
  • 不同年齡段的顧客對手機的關注點分析;
  • 產品在不同區域的市場占有情況分析;
手機評論分析數據挖掘流程

圖5,手機評論分析數據挖掘流程
文本挖掘模塊特點: 流程化設計理念,豐富的功能模塊,基于分布式計算法框架開發,和平臺節點進行有機集成:
平臺文本挖掘模塊特點
圖6,平臺文本挖掘模塊特點
  • 流程化設計:平臺文本挖掘采用流程挖掘模式,用戶使用方便,業務流程易于理解;
  • 功能豐富:平臺實現了自然語言處理常用基本模塊,能夠靈活方便實現業務挖掘場景;
  • 分布式計算:文本挖掘模塊基于Spark集群框架實現,能夠對大批量文本數據進行高效處理運算;
  • 有機集成:文本挖掘模塊可以和平臺機器學習、統計分析、可視化分析等模塊進行無縫對接;
服務熱線
400-608-2558
咨詢熱線
15502965860-
美林數據
微信掃描二維碼,立即在線咨詢
夜夜爽一区二区三区精品,精品一区二区三区免费毛片爱,日本美女一区二区三区,色窝窝无码一区二区三区色欲

  • <center id="vcica"><optgroup id="vcica"></optgroup></center>
  • 主站蜘蛛池模板: 久久精品二区三区| 亚洲午夜高清视频| 在线观看日韩一区| 亚洲青涩在线| 日韩午夜中文字幕| 国产午夜精品一区理论片飘花 | 国产精品99久久久久久人| 狠狠狠色丁香婷婷综合激情| 激情偷拍久久| 亚洲激情影视| 一区二区三区波多野结衣在线观看| 亚洲图片你懂的| 国产欧美精品日韩区二区麻豆天美| 国产欧美精品一区二区三区介绍| 99精品99| 激情久久影院| 亚洲激情自拍| 亚洲素人一区二区| 欧美主播一区二区三区| 国产欧美在线看| 久久中文久久字幕| 欧美精品日韩精品| 欧美在线国产精品| 在线高清一区| 99re8这里有精品热视频免费 | 欧美一区二区三区四区视频| 亚洲国产成人在线播放| aa级大片欧美| 亚洲欧美在线视频观看| 久久久综合香蕉尹人综合网| 国产麻豆日韩| 欧美精品成人91久久久久久久| 欧美一区二区三区成人| 免费高清在线视频一区·| 欧美日韩在线播放一区二区| 国产欧美一区二区三区在线老狼 | 亚洲欧洲一区二区三区| 亚洲一区亚洲| 免费成人小视频| 国产精品美女久久久久久免费| 一区免费观看视频|