solr dataImportHandler mysql增量索引

86565656

文章地址：http://quentinxxz.iyunv.com/blog/2100621

 

前一篇中全量索引的data-config.xml 的配置为

<dataConfig>
<dataSource type="JdbcDataSource"
driver="com.mysql.jdbc.Driver"
url="jdbc:mysql://199.xxx.xxx.xxx/quentinxxz_com"
user="qqq"
password="qqq"/>
<document>
<entity name="product"
query="select id, price,modify_time from tts_product">
<field column="price" name="tts_price"/>
<field column="modify_time" name="tts_modify_time"/>
</entity>
</document>
</dataConfig>
 

对应的增量索引的data-config.xml 的配置为

<dataConfig>
<dataSource type="JdbcDataSource"
driver="com.mysql.jdbc.Driver"
url="jdbc:mysql://199.xxx.xxx.xxx/quentinxxz_com"
user="qqq"
password="qqq"/>
<document>
<entity name="product"
query="select id, price,modify_time from tts_product"
deltaImportQuery="select id, price,modify_time from tts_product where ID='${dih.delta.id}'"
deltaQuery="select id from tts_product where modify_time >'${dih.last_index_time}'">
<!---->
<field column="price" name="tts_price"/>
<field column="modify_time" name="tts_modify_time"/>
</entity>
</document>
</dataConfig>
 

在conf/dataimport.properties中会自动存储最近一次索引的时间，solr正是以此为依据实现增量。但是前提确保你的数据库表中有类似modify_time这样的字段，好与可以做对比。
 

${dih.last_index_time}为dataimport.properties中的last_index_time信息

${dih.delta.id}为deltaQuery所查询出来的主键id 

 

conf/dataimport.properties中自动存储的信息

 

 

#Wed Jul 30 10:58:44 GMT+08:00 2014
last_index_time=2014-07-30 10\:58\:37
product.last_index_time=2014-07-30 10\:58\:37
 

query是获取全部数据的SQL
deltaImportQuery是获取增量数据时使用的SQL
deltaQuery是获取pk的SQL
parentDeltaQuery是获取父Entity的pk的SQL


 

注：从配置文件来看，增量的效率似乎很低，"select id, price,modify_time from tts_product where ID='${dih.delta.id}"给我们的感觉是每有一条纪录，就根据id去查一定数据库。其实不然，仔细查看dataImportHanlder的源码，会发现实际执行的sql语句已经做过处理了，DIH会将多个id进行组合，修改sql语句，再执行一次查询。