概念
Metrics是一个给JAVA服务的各项指标提供度量工具的包,在JAVA代码中嵌入Metrics代码,可以方便的对业务代码的各个指标进行监控
目前最为流行的 metrics 库是来自 Coda Hale 的 dropwizard/metrics,该库被广泛地应用于各个知名的开源项目中。例如 Hadoop,Kafka,Spark,JStorm 中。
Samza任务类必须实现StreamTask,可选 InitableTask, ClosableTask,WindowableTask
samza是一个分布式的流式数据处理框架(streaming processing),它是基于Kafka消息队列来实现类实时的流式数据处理的。下面将从为什么需要Samza、Samza一些基本概念、Samza架构、Samza的核心部件(SamzaContainer、Stream、Serialization、Checkpointing、State Management、Windowing、Metrix、JMX)几个部分来介绍。
kafka作为一个分布式的消息队列系统,已经实现了流式处理框架底层的许多核心基础架构,把消息串联流动起来就是Streaming了。kafka相关内容可以参考另一篇博客kafka介绍。
但是要构建一个可用的流式数据处理框架,还是有许多事情要做。例如生产者和消费者进程的管理,作业调度和容错处理,辅助工具和监控管理手段,更友好方便的用户接口等等,本质上说,Samza是在消息队列系统上的更高层的抽象,是一种应用流式处理框架在消息队列系统上的一种应用模式的实现。
hello-samza是官方给的例子,包括一整套运行环境,包括zookeeper、kafka、yarn、samza。虽然例子看起来很容易,但是跑起来感觉全是坑,毕竟用的公司的集群,没有root权限,然后例子给的都是国外的地址,访问速度很慢或者根本被墙了。想say hello不容易!
参考廖雪峰大神的python3.0教程,适用于有一定基础的Java程序员,会对比着Java来学习python。代码在PyCharm中运行通过,地址为github。本篇主要介绍python面向对象编程相关的知识,在上一篇介绍了python的一些基础知识,包括安装运行、基础语法、函数、高级特性、函数式编程、模块等。
参考廖雪峰大神的python3.0教程,适用于有一定基础的Java程序员,会对比着Java来学习python。代码在PyCharm中运行通过,地址为github。本篇主要介绍python的一些基础知识,包括安装运行(PyCharm设置)、基础语法、函数、高级特性、函数式编程、模块等。在下一篇会介绍python面向对象相关的知识。
Python的哲学就是简单优雅,尽量写容易看明白的代码,尽量写少的代码
Druid.io每次增加历史节点,经过一段时间的balance,数据总会均衡,下面从代码分析一下原因。Druid版本为0.9.11
druid提供http rest形式的查询接口,但是默认是json形式的,给没使用过druid的人用还是不太友好。这里介绍几种工具: