[搜索引擎選擇： Elasticsearch與Solr

搜索引擎選型調研文檔

Elasticsearch簡介*

Elasticsearch是一個實時的分散式搜索和分析引擎。它可以幫助你用前所未有的速度去處理大規模數據。

它可以用於全文搜索，結構化搜索以及分析，當然你也可以將這三者進行組合。

Elasticsearch是一個建立在全文搜索引擎 Apache Lucene? 基礎上的搜索引擎，可以說Lucene是當今最先進，最高效的全功能開源搜索引擎框架。

但是Lucene只是一個框架，要充分利用它的功能，需要使用JAVA，並且在程序中集成Lucene。需要很多的學習了解，才能明白它是如何運行的，Lucene確實非常複雜。

Elasticsearch使用Lucene作為內部引擎，但是在使用它做全文搜索時，只需要使用統一做好的API即可，而不需要了解其背後複雜的Lucene的運行原理。

當然Elasticsearch並不僅僅是Lucene這麼簡單，它不但包括了全文搜索功能，還可以進行以下工作:

• 分散式實時文件存儲，並將每一個欄位都編入索引，使其可以被搜索。

• 實時分析的分散式搜索引擎。

• 可以擴展到上百台伺服器，處理PB級別的結構化或非結構化數據。

這麼多的功能被集成到一台伺服器上，你可以輕鬆地通過客戶端或者任何你喜歡的程序語言與ES的RESTful API進行交流。

Elasticsearch的上手是非常簡單的。它附帶了很多非常合理的默認值，這讓初學者很好地避免一上手就要面對複雜的理論，

它安裝好了就可以使用了，用很小的學習成本就可以變得很有生產力。

隨著越學越深入，還可以利用Elasticsearch更多高級的功能，整個引擎可以很靈活地進行配置。可以根據自身需求來定製屬於自己的Elasticsearch。

使用案例：

• 維基百科使用Elasticsearch來進行全文搜做並高亮顯示關鍵詞，以及提供search-as-you-type、did-you-mean等搜索建議功能。

• 英國衛報使用Elasticsearch來處理訪客日誌，以便能將公眾對不同文章的反應實時地反饋給各位編輯。

• StackOverflow將全文搜索與地理位置和相關信息進行結合，以提供more-like-this相關問題的展現。

• GitHub使用Elasticsearch來檢索超過1300億行代碼。

• 每天，Goldman Sachs使用它來處理5TB數據的索引，還有很多投行使用它來分析股票市場的變動。

但是Elasticsearch並不只是面向大型企業的，它還幫助了很多類似DataDog以及Klout的創業公司進行了功能的擴展。

Elasticsearch的優缺點**:

優點

1. Elasticsearch是分散式的。不需要其他組件，分發是實時的，被叫做」Push replication」。
2. Elasticsearch 完全支持 Apache Lucene 的接近實時的搜索。
3. 處理多租戶（multitenancy）不需要特殊配置，而Solr則需要更多的高級設置。
4. Elasticsearch 採用 Gateway 的概念，使得完備份更加簡單。
5. 各節點組成對等的網路結構，某些節點出現故障時會自動分配其他節點代替其進行工作。

缺點

1. 只有一名developer（當前Elasticsearch GitHub組織已經不只如此，已經有了相當活躍的維護者）
2. 還不夠自動（不適合當前新的Index Warmup API）

Solr簡介*

Solr（讀作「solar」）是Apache Lucene項目的開源企業搜索平台。其主要功能包括全文檢索、命中標示、分面搜索、動態聚類、資料庫集成，以及富文本（如Word、PDF）的處理。Solr是高度可擴展的，並提供了分散式搜索和索引複製。Solr是最流行的企業級搜索引擎，Solr4 還增加了NoSQL支持。

Solr是用Java編寫、運行在Servlet容器（如 Apache Tomcat 或Jetty）的一個獨立的全文搜索伺服器。 Solr採用了 Lucene Java 搜索庫為核心的全文索引和搜索，並具有類似REST的HTTP/XML和JSON的API。Solr強大的外部配置功能使得無需進行Java編碼，便可對其進行調整以適應多種類型的應用程序。Solr有一個插件架構，以支持更多的高級定製。

因為2010年 Apache Lucene 和 Apache Solr 項目合併，兩個項目是由同一個Apache軟體基金會developement團隊製作實現的。提到技術或產品時，Lucene/Solr或Solr/Lucene是一樣的。

Solr的優缺點

優點

1. Solr有一個更大、更成熟的用戶、developer和貢獻者社區。
2. 支持添加多種格式的索引，如：HTML、PDF、微軟 Office 系列軟體格式以及 JSON、XML、CSV 等純文本格式。
3. Solr比較成熟、穩定。
4. 不考慮建索引的同時進行搜索，速度更快。

缺點

1. 建立索引時，搜索效率下降，實時索引搜索效率不高。

Elasticsearch與Solr的比較*

當單純的對已有數據進行搜索時，Solr更快。

Search Fesh Index While Idle

當實時建立索引時, Solr會產生io阻塞，查詢性能較差, Elasticsearch具有明顯的優勢。

search_fresh_index_while_indexing

隨著數據量的增加，Solr的搜索效率會變得更低，而Elasticsearch卻沒有明顯的變化。

search_fresh_index_while_indexing

綜上所述，Solr的架構不適合實時搜索的應用。

實際生產環境測試*

下圖為將搜索引擎從Solr轉到Elasticsearch以後的平均查詢速度有了50倍的提升。

average_execution_time

Elasticsearch 與 Solr 的比較總結

• 二者安裝都很簡單；
• Solr 利用 Zookeeper 進行分散式管理，而 Elasticsearch 自身帶有分散式協調管理功能;
• Solr 支持更多格式的數據，而 Elasticsearch 僅支持json文件格式；
• Solr 官方提供的功能更多，而 Elasticsearch 本身更注重於核心功能，高級功能多有第三方插件提供；
• Solr 在傳統的搜索應用中表現好於 Elasticsearch，但在處理實時搜索應用時效率明顯低於 Elasticsearch。

Solr 是傳統搜索應用的有力解決方案，但 Elasticsearch 更適用於新興的實時搜索應用。

其他基於Lucene的開源搜索引擎解決方案*

1. 直接使用 Lucene

說明：Lucene 是一個 JAVA 搜索類庫，它本身並不是一個完整的解決方案，需要額外的工作。

優點：成熟的解決方案，有很多的成功案例。apache 頂級項目，正在持續快速的進步。龐大而活躍的社區，大量的developers。它只是一個類庫，有足夠的定製和優化空間：經過簡單定製，就可以滿足絕大部分常見的需求；經過優化，可以支持 10億+ 量級的搜索。

缺點：需要額外的工作。所有的擴展，分散式，可靠性等都需要自己實現；非實時，從建索引到可以搜索中間有一個時間延遲，而當前的「近實時」(Lucene Near Real Time search)搜索方案的可擴展性有待進一步完善

• Katta

說明：基於 Lucene 的，支持分散式，可擴展，具有容錯功能，准實時的搜索方案。

優點：開箱即用，可以與 Hadoop 配合實現分散式。具備擴展和容錯機制。

缺點：只是搜索方案，建索引部分還是需要自己實現。在搜索功能上，只實現了最基本的需求。成功案例較少，項目的成熟度稍微差一些。因為需要支持分散式，對於一些複雜的查詢需求，定製的難度會比較大。

• Hadoop contrib/index

說明：Map/Reduce 模式的，分散式建索引方案，可以跟 Katta 配合使用。

優點：分散式建索引，具備可擴展性。

缺點：只是建索引方案，不包括搜索實現。工作在批處理模式，對實時搜索的支持不佳。

• LinkedIn 的開源方案

說明：基於 Lucene 的一系列解決方案，包括 准實時搜索 zoie ，facet 搜索實現 bobo ，機器學習演算法 decomposer ，摘要存儲庫 krati ，資料庫模式包裝 sensei 等等

優點：經過驗證的解決方案，支持分散式，可擴展，豐富的功能實現

缺點：與 linkedin 公司的聯繫太緊密，可定製性比較差

• Lucandra

說明：基於 Lucene，索引存在 cassandra 資料庫中

優點：參考 cassandra 的優點

缺點：參考 cassandra 的缺點。另外，這只是一個 demo，沒有經過大量驗證

• HBasene

說明：基於 Lucene，索引存在 HBase 資料庫中

優點：參考 HBase 的優點

缺點：參考 HBase 的缺點。另外，在實現中，lucene terms 是存成行，但每個 term 對應的 posting lists 是以列的方式存儲的。隨著單個 term 的 posting lists 的增大，查詢時的速度受到的影響會非常大。