php redis做mysql的缓存 , 怎么异步redis同步到mysql数据库 对于变化频率非常快的数据来说,如果还选择传统的静态缓存方式(Memocached、File System等)展示数据,可能在缓存的存取上会有很大的开销,并不能很好的满足需要,而Redis这样基于内存的NoSQL数据库,就非常适合担任实时数据的容器 。
但是往往又有数据可靠性的需求,采用MySQL作为数据存储,不会因为内存问题而引起数据丢失,同时也可以利用关系数据库的特性实现很多功能 。
所以就会很自然的想到是否可以采用MySQL作为数据存储引擎,Redis则作为Cache 。而这种需求目前还没有看到有特别成熟的解决方案或工具,因此采用Gearman PHP MySQL UDF的组合异步实现MySQL到Redis的数据复制 。
MySQL到Redis数据复制方案
无论MySQL还是Redis , 自身都带有数据同步的机制 , 比较常用的MySQL的Master/Slave模式,就是由Slave端分析Master的binlog来实现的,这样的数据复制其实还是一个异步过程,只不过当服务器都在同一内网时,异步的延迟几乎可以忽略 。
那么理论上也可以用同样方式 , 分析MySQL的binlog文件并将数据插入Redis 。但是这需要对binlog文件以及MySQL有非常深入的理解,同时由于binlog存在Statement/Row/Mixedlevel多种形式,分析binlog实现同步的工作量是非常大的 。
因此这里选择了一种开发成本更加低廉的方式,借用已经比较成熟的MySQL UDF,将MySQL数据首先放入Gearman中,然后通过一个自己编写的PHP Gearman Worker,将数据同步到Redis 。比分析binlog的方式增加了不少流程,但是实现成本更低,更容易操作 。
Gearman的安装与使用
Gearman是一个支持分布式的任务分发框架 。设计简洁,获得了非常广泛的支持 。一个典型的Gearman应用包括以下这些部分:
Gearman Job Server:Gearman核心程序,需要编译安装并以守护进程形式运行在后台
Gearman Client:可以理解为任务的收件员,比如在后台执行一个发送邮件的任务,可以在程序中调用一个Gearman Client并传入邮件的信息,然后就可以将执行结果立即展示给用户 , 而任务本身会慢慢在后台运行 。
Gearman Worker:任务的真正执行者,一般需要自己编写具体逻辑并通过守护进程方式运行,Gearman Worker接收到Gearman Client传递的任务内容后,会按顺序处理 。
以前曾经介绍过类似的后台任务处理项目Resque 。两者的设计其实非常接近,简单可以类比为:
Gearman Job Server:对应Resque的Redis部分
Gearman Client:对应Resque的Queue操作
Gearman Worker:对应Resque的Worker和Job
这里之所以选择Gearman而不是Resque是因为Gearman提供了比较好用的MySQL UDF , 工作量更小 。
安装Gearman及PHP Gearman扩展
以下均以Ubuntu12.04为例 。
apt-get install gearman gearman-server libgearman-dev
检查Gearman的运行状况:
/etc/init.d/gearman-job-server status
* gearmand is running
说明Gearman已经安装成功 。
PHP的Gearman扩展可以通过pecl直接安装
pecl install gearman
echo "extension=gearman.so"/etc/php5/conf.d/gearman.ini
service php5-fpm restart
但是实测发现ubuntu默认安装的gearman版本过低,直接运行pecl install gearman会报错
configure: error: libgearman version 1.1.0or later required
因此GearmanPHP扩展建议通过编译方式安装,这里为了简单说明,选择安装旧版本扩展:
pecl install gearman-1.0.3
GearmanPHP实例
为了更容易理解后文Gearman的运行流程,这里不妨从一个最简单的Gearman实例来说明,比如要进行一个文件处理的操作,首先编写一个Gearman Client并命名为client.php:
?php
$client =newGearmanClient();
$client-addServer();
$client-doBackground('writeLog','Log content');
echo '文件已经在后台操作';
运行这个文件 , 相当于模拟用户请求一个Web页面后,将处理结束的信息返回用户:
php client.php
查看一下Gearman的状况:
(echo status ; sleep 0.1)| netcat127.0.0.14730
可以看到输出为
writeLog100.
说明已经在Gearman中建立了一个名为writeLog的任务,并且有1个任务在队列等待中 。
而上面的4列分别代表当前的Gearman的运行状态:
任务名称
在等待队列中的任务
正在运行的任务
正在运行的Worker进程
可以使用watch进行实时监控:
watch -n 1"(echo status; sleep 0.1) | nc 127.0.0.1 4730"
然后我们需要编写一个Gearman Worker命名为worker.php:
?php
$worker =newGearmanWorker();
$worker-addServer();
$worker-addFunction('writeLog','writeLog');while($worker-work());function writeLog($job){
$log = $job-workload();file_put_contents(__DIR__ .'/gearman.log', $log ."\n", FILE_APPEND | LOCK_EX);}
Worker使用一个while死循环实现守护进程 , 运行
php worker.php
可以看到Gearman状态变为:
writeLog001
同时查看同目录下gearman.log,内容应为从Client传入的值Log content 。
通过MySQL UDFTrigger同步数据到Gearman
MySQL要实现与外部程序互通的最好方式还是通过MySQL UDF(MySQL user defined functions)来实现 。为了让MySQL能将数据传入Gearman,这里使用了lib_mysqludf_json和gearman-mysql-udf的组合 。
安装lib_mysqludf_json
使用lib_mysqludf_json的原因是因为Gearman只接受字符串作为入口参数,可以通过lib_mysqludf_json将MySQL中的数据编码为JSON字符串
apt-get install libmysqlclient-dev
wget
unzip master.zip
cd lib_mysqludf_json-master/
rm lib_mysqludf_json.so
gcc $(mysql_config --cflags)-shared -fPIC -o lib_mysqludf_json.so lib_mysqludf_json.c
可以看到重新编译生成了 lib_mysqludf_json.so 文件,此时需要查看MySQL的插件安装路径:
mysql -u root -pPASSWORD --execute="show variables like '%plugin%';" --------------- ------------------------ |Variable_name|Value| --------------- ------------------------ | plugin_dir|/usr/lib/mysql/plugin/| --------------- ------------------------
然后将 lib_mysqludf_json.so 文件复制到对应位置:
cp lib_mysqludf_json.so /usr/lib/mysql/plugin/
最后登入MySQL运行语句注册UDF函数:
CREATE FUNCTION json_object RETURNS STRING SONAME 'lib_mysqludf_json.so';
安装gearman-mysql-udf
方法几乎一样:
apt-get install libgearman-dev
wget
tar -xzf gearman-mysql-udf-0.6.tar.gz
cd gearman-mysql-udf-0.6./configure --with-mysql=/usr/bin/mysql_config
-libdir=/usr/lib/mysql/plugin/
makemake install
登入MySQL运行语句注册UDF函数:
CREATE FUNCTION gman_do_background RETURNS STRING SONAME 'libgearman_mysql_udf.so';
CREATE FUNCTION gman_servers_set RETURNS STRING SONAME 'libgearman_mysql_udf.so';
最后指定Gearman服务器的信息:
SELECT gman_servers_set('127.0.0.1:4730');
通过MySQL触发器实现数据同步
最终同步哪些数据,同步的条件,还是需要根据实际情况决定,比如将数据表data的数据在每次更新时同步,那么编写Trigger如下:
DELIMITER $$
CREATE TRIGGER datatoredis AFTER UPDATE ON data
FOR EACH ROW BEGIN
SET @ret=gman_do_background('syncToRedis', json_object(NEW.id as`id`, NEW.volume as`volume`));END$$
DELIMITER ;
尝试在数据库中更新一条数据查看Gearman是否生效 。
Gearman PHP Worker将MySQL数据异步复制到Redis
Redis作为时下当热的NoSQL缓存解决方案无需过多介绍,其安装及使用也非常简单:
apt-get install redis-server
pecl install redis
echo "extension=redis.so"/etc/php5/conf.d/redis.ini
然后编写一个Gearman Worker:redis_worker.php
#!/usr/bin/env php?
$worker =newGearmanWorker();
$worker-addServer();
$worker-addFunction('syncToRedis','syncToRedis');
$redis =newRedis();
$redis-connect('127.0.0.1',6379);while($worker-work());function syncToRedis($job){global $redis;
$workString = $job-workload();
$work = json_decode($workString);if(!isset($work-id)){returnfalse;}
$redis-set($work-id, $workString);}
最后需要将Worker在后台运行:
nohup php redis_worker.php
通过这种方式将MySQL数据复制到Redis,经测试单Worker基本可以瞬时完成 。
php如何实现两台服务器数据库同步问题 - 技术问答基于数据库 Log 日志分析可以实现PHP数据库结构同步,网上搜一下 CDC 数据同步 。。
不过PHP数据库结构同步你也可以尝试下 cloud.tapdata.net PHP数据库结构同步, 一个在线的数据同步工具 , 支持一次性全量同步,也支持实时的增量同步 。
怎样用php实现两个mysql数据库的同步使用程序无法实现这种功能PHP数据库结构同步,因为无法保证事务PHP数据库结构同步的一致性PHP数据库结构同步 , 比如:A数据库中PHP数据库结构同步的a表复制到B数据库中的a表的过程中,A数据库中的a表的一条记录被删除,这样就无法实现数据的一致性PHP数据库结构同步!正确的做法是使用MySQL复制的功能!很简单,只需要几步配置即可!
本地一个软件的mysql数据库怎么和php网站上mysql数据库同步起来?方法一:手工维护,一个数据库有改动 , 立即备份,导入到另一个数据库 , 保证二者数据一致 。这个比较麻烦 。
方法二: 修改两个系统的数据库更新部分代码,不论是哪个系统的数据库发生改变,同时写入两个数据库 。(建议)
方法三:在数据库里面需要同步的数据表上面添加相应的触发器及存储过程,写入数据到另外数据库 。(建议)
用php同步A数据库中的a表 的数据到 数据库B中的b表,要如何实现呢首先要把数据库A、BPHP数据库结构同步的连接权限都grant给一个用户PHP数据库结构同步 , 然后用这个用户连接数据库 。
那么可以用A.a, B.b这样去访问表 。
剩下的就是SQL select ... insert into语句的事PHP数据库结构同步,相信PHP数据库结构同步你会 。
如何用php实现两个Oracle数据库同步功能?你是希望用PHP代码实现同时写两个数据库还是希望只是两个数据库的数据一致?如果仅是希望数据库数据数据一至,oracle自带的机制就能实现 。如果是想自己编程实现同时两个数据库的操作 , 也方便 , PHP在链接不同数据库实例时,会得到不同的链接句柄,在后面具体操作时,同时对这两个链接句柄操作就行了 , 但这样存在数据不完全一致的风险,必须校验,这样又拖慢了速度 。
演示代码如下:
echo "br /b演示多数据库克隆操作(多数据库同时写操作)/bbr /";
$this-loadModel('student.php',1);
//如果两个不同数据库服务器的表对象结构完全一致,则不必重复载入表对象定义文件,只需要在实例化时指定服务器id就行了 。
//$this-loadModel('student.php',2);
$this-loadModel('student2.php',2);
$student1=new Tstudent(1);
$student2=new Tstudent2(2);
$student3=new Tstudent(2);
$student2-cloneFrom($student1);
$student3-cloneFrom($student1);
$student1-uuid='999';
$student1-id='999';
$student1-name='测试克隆人';
//如果进行了主对象的克隆操作,则在完成主对象数据持久化后,所有的子对象将会同步插入数据 。
$student1-insert();
【PHP数据库结构同步 php绑定数据库】关于PHP数据库结构同步和php绑定数据库的介绍到此就结束了,不知道你从中找到你需要的信息了吗 ?如果你还想了解更多这方面的信息,记得收藏关注本站 。
推荐阅读
- 塔猫chatgpt,塔猫ChatGPT
- 鸿蒙系统安装苹果模拟器,iphone装鸿蒙
- js轮询函数,js的事件轮询机制
- 多盈体育游戏平台,多盈游戏app
- go语言调用同级函数 go语言调用c语言
- 鸿蒙系统服务卡片如何换,鸿蒙系统服务卡片换图片
- sap字段名称,sap名称大全
- 电脑直播软件人物调试在哪,直播人物设定
- ftp命令下载linux的简单介绍