Hbase/Datanode几个异常问题

发表于2016年5月26日由sylar
最近搭建了一个集群给测试环境用，配置参数从生产拷贝过来的并不适用。启动和使用过程中，出现了几个异常。问题逐一排查下来，也增加了对hbase内部机制的理解。 异常问题分析思路建议如下： 1）分析日志上下文，重点
发表在 hbase | 留下评论

zookeeper session timeout

发表于2016年5月2日由sylar
zookeeper的超时时间由客户端参数和zookeeper server端启动时配置的参数决定的。 1）zk server端timeout参数 tickTime：zk的心跳间隔（heartbeat interval），也是session timeout基本单位。单位为微妙。 minSession
发表在 hbase | 标签为 | 留下评论

twemproxy集群生产总结

发表于2016年3月30日由sylar
twemproxy最早是2014年8.14大促开始使用的，当年也是史无前例的大促活动–撒娇节。之后就开始野蛮生长历程，大规模部署。到15年12月份，这种方案不再支持上线了。 目前大约还有120个twemproxy集群（应用）在线
发表在 redis | 标签为 , | 5条评论

tcp应答报文中sequence nummber 和ack number关系

发表于2016年1月28日由sylar
最近在优化之前开发的一个tcp抓包分析工具，这种工具主要通过获取应（request）答（response）报文的到达时间，分析服务的响应时间。 寻找应答报文主要是匹配报文中源地址（ip：port）、目的地址（ip：port），以及
发表在 develop, os/linux | 一条评论

regionserver请求不均匀

发表于2016年1月21日由sylar
1、regionserver请求不均匀 1）节点上的regions的个数是否基本一致，如果不一致做balance。 #开启balancer（hbase-0.94） hbase shell > balance_switch true #关闭 > balance_switch false 2）如果
发表在 hbase | 留下评论

hbase standalone模式部署和API测试

发表于2016年1月20日由sylar
1、配置JDK export JAVA_HOME=/apps/svr/jdk7 export PATH=$JAVA_HOME/bin:$PATH export CLASSPATH=.:/apps/svr/jdk7/lib/dt.jar:$JAVA_HOME/lib/tools.jar export HBASE_HOME=/apps/svr/hbase export PATH=${
发表在 hbase | 标签为 , | 留下评论

vm overcommit参数

发表于2016年1月11日由sylar
overcommit参数需要根据不同服务来进行调整，使内存得到充分利用的同时保证系统的稳定性。比如redis服务器建议把vm.overcommit_memory设置为1. 1、vm.overcommit_ratio 和 vm.overcommit_memory内核参数 参考资料，o
发表在 os/linux, redis | 标签为 , | 留下评论

Redis RDB持久化

发表于2015年11月19日由sylar
redis持久化 redis提供了两种把内存数据持久化到磁盘的方式，RDB快照方式和AOF日志方式。 不论使用那种方式，都无法保证redis数据一点都不丢失。rdb只是redis在某一时刻的数据快照snapshot，数据丢失程度主要取决于
发表在 redis | 留下评论

kafka扩容节点和partitions迁移

发表于2015年11月5日由sylar
kafka的扩容难点： 1）主要在于增加机器之后，数据需要rebalance到新增的空闲节点，即把partitions迁移到空闲机器上。 kafka提供了bin/kafka-reassign-partitions.sh工具，完成parttition的迁移。 2）kafka的集群的
发表在 kafka | 标签为 , | 留下评论

redis cluster创建

发表于2015年8月19日由sylar
redis cluster集群的创建可以用redis-trib.rb工具快速完成。这里主要是手动搭建一个集群的过程，简单介绍一下集群构建原理。 1 配置redis节点 redis cluster集群至由3个redis节点构成。在redis配置文件中开启cluster
发表在 redis | 标签为 | 留下评论