擷取111

某前公司做類似大數據的系統架構概圖

LB由LVS進行(預計,但實際上沒做)

WEB分為抓取數據資料一台

WEB網頁呈現一台

資料收集完後不採用資料庫的方式進行儲存

改由分散式儲存系統(DFS)進行儲存,使用的為MooseFS(簡稱MFS)

 

網路架構為同一層網段,用分散式設計進行

其中還有進行Indexs索引建立的Server,後台管理的Server,編輯用Server等

就不一一列出,需要功能配合時再增加Server

 

算是比較特殊的用法,不採用資料庫的大數據

中間當然遇過許多問題,從LVS模式、MFS的CHUNK格式等等

還有儲存空間的格式化問題,inode爆掉等等

就不一一說明了

 

系統原本採用apache+tomcat7

在進行優化時測試使用 nginx+resin

效果也不錯,但之後的更新我就不清楚了

當然這套系統還是在運作當中~