Skip to content

linking12/YuGong

Repository files navigation

概述

yugong是一个将数据库的数据同步到ElasticSearch的一个web系统 集成了ElasticSearchJdbc(https://github.com/jprante/elasticsearch-jdbc)

功能

  • 提供同步能力

开发说明

  • 项目使用的持久化ORM是使用jpa,包括了数据库的表结构的生成,唯一性约束,主外键等的一系列数据库操作

  • 类似于定时任务调度中心,需要解决的是分布式锁的问题,本系统使用的分布式锁是使用数据库的GET_LOCK来实现

  • 任务执行状态保存,以便系统宕机重启后,重新从已拉取的时间点拉取任务,类似于Mq的offset

  • 由于是集成了ElasticSearch-jdbc,需要对其进行改造,改造的内容有

  1. 状态保存到数据,而不是本地文件
  2. 支持多任务,而不是单任务
  3. 支持任务退出

Quick Start