日志收集工具 logpipe 更新至 0.9.0 版本

栏目: 软件资讯 · 发布时间: 8年前

内容简介:日志收集工具 logpipe 0.9.0 已发布。更新如下: 0.9.0 2017-12-19 calvin     * logpipe日志自动补充后缀".(24小时制钟点)",每天循环 0.8.0 2017-12-18 calvin     * 再次修正了文件大小转档在长打开...

日志收集工具 logpipe 0.9.0 已发布。更新如下:

0.9.0 2017-12-19 calvin

    * logpipe日志自动补充后缀".(24小时制钟点)",每天循环

0.8.0 2017-12-18 calvin

    * 再次修正了文件大小转档在长打开文件应用模式中的一个遗漏目标文件末尾的问题
    * 输出描述字不可用时及时通知插件

0.7.0 2017-12-16 calvin

    * logpipe-input-file配置exec_before_rotating和exec_after_rotating命令中可以使用环境变量LOGPIPE_ROTATING_PATHNAME了
    * 修正了文件大小转档在长打开文件应用模式中的一个遗漏目标文件末尾的问题
    * start_for_full_dose改名为start_once_for_full_dose,装载参数改从环境变量中取,由logpipe --start-once-for-env "(key) (value)"导入
    * 调整了一些日志的等级

0.6.0 2017-12-15 calvin

    * logpipe-input-file新增配置项exec_before_rotating,rotate_size,exec_after_rotating
    * logpipe命令行参数新增公共配置项机制--public-plugin-config-item-,logpipe-input-file新增配置项start_for_full_dose

0.5.0 2017-12-14 calvin

    * 重构设计,采用插件模型

0.4.0 2017-12-09 calvin

    * 新增配置参数comm.compress_algorithm用于压缩传输

0.3.0 2017-12-08 calvin

    * 新增配置参数rotate.file_rotate_max_size用于文件名转档功能

0.2.0 2017-12-05 calvin

    * 重构设计,抽象统一采集端、转发端和归集端

0.1.0 2017-12-02 calvin

    * 完成采集端基本功能
    * 完成归集端基本功能
    * 测试echo,mv,vi对客户端监控目录的反应

0.0.0 2017-11-26 calvin

    * 创建

logpipe是一个分布式、高可用的用于采集、传输、对接落地的日志工具,采用了插件风格的框架结构设计,支持多输入多输出按需配置组件用于流式日志收集架构,无第三方依赖。

日志收集工具 logpipe 更新至 0.9.0 版本

logpipe概念朴实、使用方便、配置简练,没有如sink等一大堆新名词。

logpipe由若干个input、事件总线和若干个output组成。启动logpipe管理进程(monitor),派生一个工作进程(worker),监控工作进程崩溃则重启工作进程。工作进程装载配置加载若干个input插件和若干个output插件,进入事件循环,任一input插件产生消息后输出给所有output插件。

logpipe自带了4个插件(今后将开发更多插件),分别是:

  • logpipe-input-file 用inotify异步实时监控日志目录,一旦有文件新建或文件增长事件发生(注意:不是周期性轮询文件修改时间和大小),立即捕获文件名和读取文件追加数据。该插件拥有文件大小转档功能,用以替代应用日志库对应功能,提高应用日志库写日志性能。该插件支持数据压缩。

  • logpipe-output-file 一旦输入插件有消息产生后用相同的文件名落地文件数据。该插件支持数据解压。

  • logpipe-input-tcp 创建TCP服务侦听端,接收客户端连接,一旦客户端连接上有新消息到来,立即读取。

  • logpipe-output-tcp 创建TCP客户端,连接服务端,一旦输入插件有消息产生后输出到该连接。

使用者可根据自身需求,按照插件开发规范,开发定制插件,如IBMMQ输入插件、HDFS输出插件等。

logpipe配置采用JSON格式,层次分明,编写简洁,如示例:

{
	"log" : 
	{
		"log_file" : "/tmp/logpipe_case1_collector.log" ,
		"log_level" : "INFO"
	} ,
	
	"inputs" : 
	[
		{ "plugin":"so/logpipe-input-file.so" , "path":"/home/calvin/log" , "compress_algorithm":"deflate" }
	] ,
	
	"outputs" : 
	[
		{ "plugin":"so/logpipe-output-tcp.so" , "ip":"127.0.0.1" , "port":10101 }
	]
}

源码托管地址 : 码云GiteeGitHub

作者邮箱 : 网易Gmail


【声明】文章转载自:开源中国社区 [http://www.oschina.net]


以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

硅谷创投课

硅谷创投课

[美]加里·维纳查克 / 林怡 / 北京联合出版社 / 2017-6 / 52

☆通用电气前CEO杰克·韦尔奇力荐,影响500强企业CMO的美国互联网意见领袖全新力作! ☆《纽约时报》榜单全新畅销书,把握来自硅谷的互联网风口浪潮! ☆70后创投鬼才,影响美国00后一代商业观的网络红人、科技公司天使投资人面对面解答你创投、管理、运营中的 一切困惑! ☆来自无数实战的真实商业意见!年轻人为什么买你的账?投资人凭什么会把钱交给你?企业家更应该做的事到底是什么?告诉......一起来看看 《硅谷创投课》 这本书的介绍吧!

随机密码生成器
随机密码生成器

多种字符组合密码

Markdown 在线编辑器
Markdown 在线编辑器

Markdown 在线编辑器

HEX HSV 转换工具
HEX HSV 转换工具

HEX HSV 互换工具