redis 如何保证exipre操作幂等性

之前在微信群讨论一个问题:redis启动时load aof文件会不存在因exipre 操作把key删除了?答案是不会的。 因为redis设计aof并用之恢复数据时,需要保证exipre等时间操作的幂等性(idempotent)。 1、为什么时间相操作
发表在 redis | 标签为 , | 一条评论

Hbase/Datanode几个异常问题

最近搭建了一个集群给测试环境用,配置参数从生产拷贝过来的并不适用。启动和使用过程中,出现了几个异常。问题逐一排查下来,也增加了对hbase内部机制的理解。 异常问题分析思路建议如下: 1)分析日志上下文,重点
发表在 hbase | 留下评论

zookeeper session timeout

zookeeper的超时时间由客户端参数和zookeeper server端启动时配置的参数决定的。 1)zk server端timeout参数 tickTime:zk的心跳间隔(heartbeat interval),也是session timeout基本单位。单位为微妙。 minSession
发表在 hbase | 标签为 | 留下评论

twemproxy集群生产总结

twemproxy最早是2014年8.14大促开始使用的,当年也是史无前例的大促活动–撒娇节。之后就开始野蛮生长历程,大规模部署。到15年12月份,这种方案不再支持上线了。 目前大约还有120个twemproxy集群(应用)在线
发表在 redis | 标签为 , | 5条评论

tcp应答报文中sequence nummber 和ack number关系

最近在优化之前开发的一个tcp抓包分析工具,这种工具主要通过获取应(request)答(response)报文的到达时间,分析服务的响应时间。寻找应答报文主要是匹配报文中源地址(ip:port)、目的地址(ip:port),以及处
发表在 develop, os/linux | 留下评论

regionserver请求不均匀

1、regionserver请求不均匀 1)节点上的regions的个数是否基本一致,如果不一致做balance。 #开启balancer(hbase-0.94) hbase shell > balance_switch true #关闭 > balance_switch false 2)如果
发表在 hbase | 留下评论

hbase standalone模式部署和API测试

1、配置JDK export JAVA_HOME=/apps/svr/jdk7 export PATH=$JAVA_HOME/bin:$PATH export CLASSPATH=.:/apps/svr/jdk7/lib/dt.jar:$JAVA_HOME/lib/tools.jar export HBASE_HOME=/apps/svr/hbase export PATH=${
发表在 hbase | 标签为 , | 留下评论

vm overcommit参数

overcommit参数需要根据不同服务来进行调整,使内存得到充分利用的同时保证系统的稳定性。比如redis服务器建议把vm.overcommit_memory设置为1. 1、vm.overcommit_ratio 和 vm.overcommit_memory内核参数 参考资料,o
发表在 os/linux, redis | 标签为 , | 留下评论

Redis RDB持久化

redis持久化 redis提供了两种把内存数据持久化到磁盘的方式,RDB快照方式和AOF日志方式。 不论使用那种方式,都无法保证redis数据一点都不丢失。rdb只是redis在某一时刻的数据快照snapshot,数据丢失程度主要取决于
发表在 redis | 留下评论

kafka扩容节点和partitions迁移

kafka的扩容难点: 1)主要在于增加机器之后,数据需要rebalance到新增的空闲节点,即把partitions迁移到空闲机器上。 kafka提供了bin/kafka-reassign-partitions.sh工具,完成parttition的迁移。 2)kafka的集群的
发表在 kafka | 标签为 , | 留下评论