锐客网

  1. 首页 > 睿知 > it技术 > >

es怎么同步mysql的简单介绍

IT技术mysql

【elasticsearch实战】mysql的数据如何迁移到es中 如果es怎么同步mysql你被上述问题困扰过，可以参考以下方案
这里需要介绍三种字段的type ， 分别是object 、 nested 、 join
现在有个问题，下面的数据如何存入到es中呢，它对应的mapping应该是什么样的呢
name、url这些字段好处理，直接设定字段 "type" : "text" 或者 "type" : "keword" 或者
就行了，但是对于address和links，这种里面包含json对象，或者数组的，怎么处理呢 。这里可以采用 "type" : "object" 来处理 。如下
可能会对links有疑问，它明明是数组 ， 却怎么和address的设置类似 。其实es中是没有单独的数组这一类型 ， 因为他所有的字段都支持数组，比如es怎么同步mysql你是text，你可以放多个值进去，以name为例，你可以放 "name":["张三", "李四"] 这样的数据进去 。
而且，es默认对这种嵌套结构建立的索引就是object类型，"type": "object" 可以省略 ??
于是可以变为下面这样
甚至，通过添加properties，可以无限嵌套下去 。
下面说object类型的缺点了 ， 缺点也是由它本身结构导致的
对于数组结构，是这么存储数据的,以上面的address为例,他会把json结构平铺开，然后把所有这个字段的值放在平铺后的字段上es怎么同步mysql：
这在查询时就出现问题了，本来Google和是绑定的，但是这种结构无法满足这种绑定的关系，也就是如果你想查name是Baidu，并且url是的，竟然也能查出来?? ， 而这和前面所插入的文档内容不符 。
所以需要nested结构和join结构出场了
嵌套结构解决了我们查询嵌套文档字段的问题，同样的，也可以解决，在es中实现类似mysql的join查询的问题 。
外键就需要设置为nested（虽然现在设计表几乎不用外键约束了，但外键的逻辑还是在的?? )
另外 ， nested字段本身会形成一个文档，只不过是嵌套在大的文档下 ， 所以在统计索引的文档数时，实际上是最外层的文档数加上nested字段形成的文档数
这里需要注意，以nested里面的字段为查询条件，需要修改下查询DSL，在外层加一层nested，每有一层nested嵌套关系，就需要加一层
由于es本身对文档通过nested字段进行了绑定，索引更新数据时，整个文档都会被替换，代价会大一些，但是由于关系绑定好了，查询会快一些 。这里的代价大一些，查询快一些自然就是和join类型对比啦 。
join 其实有父子文档的概念，父文档通过一个字段关联一个子文档 ，
这个结构比较复杂的是在你推数据时，需要指定对应的父文档是哪个
mapping结构如下
解释一下
优点就是更新数据时，不用连带着父子文档一起改，缺点是查询效率不如nested结构
以后再说吧??
使用canal将mysql同步到es中 因为自己项目中需要用到mysql数据同步到es中es怎么同步mysql，查找了相关资料最后决定用canal来做es怎么同步mysql，所以便有了本文es怎么同步mysql，下面一起来看如何使用canal吧
根据上es怎么同步mysql的原理解释，es怎么同步mysql我们知道 canal 会模拟 mysql slave 的交互协议，伪装自己为 mysql slave，然后向 mysql master 发送 dump 协议 。
mysql master 收到 dump 请求，开始推送 binary log 给 slave(也就是 canal)，然后 canal 解析 binary log 对象(原始为 byte流) 。
经 canal 解析过的对象，我们使用起来就非常的方便了 。
再根据提供的版本信息，你会发现 canal 其实相当于一个中间件，专门用来解析 MySQL 的 binlog 日志 。canal 解析好了之后 ， 会封装成一个数据对象，通过 protobuf3.0 协议进行交互，让 canal 客户端进行消费 。
根据上面的解释，以及 canal 提供的版本信息，我们在使用 canal 的时候 ， 首选要安装一个 canal.deployer-1.1.4.tar.gz 进行解析 MySQL 的 binlog 日志 。
下载后，复制 canal.deployer-1.1.4.tar.gz 到 MySQL 主机上 ， 比如放在 /usr/local/soft/目录下 。然后依次执行下面的命令：
然后修改 canal 的配置文件 vim conf/example/instance.properties
这三项改成你自己的，比如我的配置如下：
然后保存并退出 。（VI 模式下，按 Esc 输入 :wq 回车退出 。）
接着，我们检查一下 MySQL 的配置 。确定版本和是否开启了 binlog 日志，以及日志格式 。
canal 支持 binlog 格式为 ROW 的模式 。如果你没开启 binlog，并且格式是非 row 的，建议修改一下 mysql 的配置文件 。
执行 mysql –help | grep my.cnf 找到 mysql 的 my.cnf 文件 。
执行 vim /etc/my.cnf 命令 。添加下面 3 个配置 。
然后保存并退出 。
接着执行 sudo service mysqld restart 重启 MySQL 。
需要注意的是你的 mysql 用户，必须要有 REPLICATION SLAVE 权限 。该权限授予 slave 服务器以该账户连接 master 后可以执行 replicate 操作的权利 。
如果没有权限，则使用 root 账户登录进 MySQL，执行下面的语句 ， 创建用户，分配权限 。
MySQL 启动后，就可以开启 canal 服务了 。
开启后 ， 观察 canal 服务的日志，确保服务正常 。
查看 canal 的日志
确定没有问题后，开始编写我们的测试程序 。
pom.xml 中导入下面的依赖 。
【es怎么同步mysql的简单介绍】 使用JAVA进行测试
然后执行 main 方法 。你再修改修改 MySQL 中的数据，你会发现所有改变都同步过来了 。上面是使用的Java代码进行运行 ， 如果想用canal.adapter来进行运行可以下载
放入服务器中，依次执行下面命令
然后修改配置文件 ：
然后将需要运行存储到es的的yml文件放入到
目录下 。例如：
然后开启canal-adapter服务
/usr/local/soft/canal-adapter/bin/startup.sh
查看 canal-adapter 的日志，确定没有问题后修改数据 就可以同步到es了
注意：
1、canal-adapter自带mysql连接使用的5.x的，如果自己安装的是高版本的mysql需要自己去/usr/local/soft/canal-adapter/lib增加对应的jar包
2、因项目中同步es使用的sql中有数据库中没有的字段，导致原生程序一直报异常 ， 后修改源码中
加了一个判断后才可以
3、es中使用的date字段类型和数据库中不一致，所以这里又修改了部分源码兼容我们项目中的类型
可以根据各自情况修改 。
mysql同步数据到es有什么好的方法没先假设有主机 A 和 B ( Linux 系统)，主机 A 的 IP 分别是 1.2.3.4 (当然，也可以是动态的) ， 主机 B 的 IP 是 5.6.7.8。两个主机都装上了 PHP Mysql ， 现在操作的是主机 A 上的资料，如果另外一个主机 B 想跟 A 的资料进行同步，应该怎么做呢？ OK，我们现在就动手 。首先，如果要想两个主机间的资料同步，一种方法就是主机 A 往主机 B 送资料，另外一种主法就是主机 B 到主机 A 上拿资料，因为 A 的 IP 是动态的(假设)，所以我们就得从主机 A 往主机 B 送资料 。在主机 B 上创建一个 Mysql 账户 。# GRANT ALL ON test.* TO user@% IDENTIFIED BY "password"; //创建用户 user,可以从任何机器访问到主机 B 上的 test 数据库 。如果这里显示错误，先把 % 改为一个 IP，然后再利用 phpMyAdmin 把 IP 改为 % ， 测试无误后就可以写 php 程序 。? $link=mysql_pconnect("localhost","user","password"); mysql_pconnect("localhost","user","password"); //连接本机(主机A)的数据库 mysql_select_db("test"); //选择数据库test $re=mysql_query("select * from table order by id desc"); $num=mysql_numrows($re); if (!empty($num)) { ...
关于es怎么同步mysql和的介绍到此就结束了，不知道你从中找到你需要的信息了吗 ？如果你还想了解更多这方面的信息，记得收藏关注本站 。

    推荐阅读


    上一篇：写c语言为什么会出错，c语言写完后有什么用

    下一篇：一休解谜游戏，一休猜谜