某前公司做類似大數據的系統架構概圖
LB由LVS進行(預計,但實際上沒做)
WEB分為抓取數據資料一台
WEB網頁呈現一台
資料收集完後不採用資料庫的方式進行儲存
改由分散式儲存系統(DFS)進行儲存,使用的為MooseFS(簡稱MFS)
網路架構為同一層網段,用分散式設計進行
其中還有進行Indexs索引建立的Server,後台管理的Server,編輯用Server等
就不一一列出,需要功能配合時再增加Server
算是比較特殊的用法,不採用資料庫的大數據
中間當然遇過許多問題,從LVS模式、MFS的CHUNK格式等等
還有儲存空間的格式化問題,inode爆掉等等
就不一一說明了
系統原本採用apache+tomcat7
在進行優化時測試使用 nginx+resin
效果也不錯,但之後的更新我就不清楚了
當然這套系統還是在運作當中~
近期留言