如何利用MongoDB存储Docker日志详解_MongoDB

如何利用MongoDB存储Docker日志详解

2020-05-19 15:15mydeman MongoDB

这篇文章主要给大家介绍了关于如何利用MongoDB存储Docker日志的相关资料，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友没呢下面随着小编来一起学习学习吧

前言

日志是系统很重要的一个组成部分，通过日志可以及时发现系统中存在的问题，也可以为修复问题提供线索。Docker提供了多种插件方式管理日志，本文就对使用MongoDB 存储Docker日志的过程做个记录。

数据流

如何利用MongoDB存储Docker日志详解

Docker产生的日期发送到 FluentD，然后FluentD在转存到MongoDB。

配置Fluentd

前提：操作系统是CentOS7，已安装MongoDB3.4

1. 安装Fluentd

CentOS 7的软件库并没有包含Fluentd的安装包，所以需要手动安装。在CentOS使用的软件td-agent。

1	`# curl -L https://toolbelt.treasuredata.com/sh/install-redhat-td-agent3.sh \| sh`

上面命令会在/etct/yum.repo.d/目录中，创建一个td-agent的安装库 td.repo，然后自动安装td-agent。安装完毕后设为自动启动。

1 2	`# systemctl start td-agent` `# systemctl enable td-agent`

如果在启动过程中出现问题，可以查看位于/var/log/td-agent/下日志文件td-agent.log

2. 配置将docker日志转存到MongoDB

转存到MongoDB需要插件支持，但是默认情况下td-agent是没有安装该插件的，需要安装。

1 2	`# yum -y install td-agent-gemt` `# td-agent-gem install fluent-plugin-mongo`

编辑/etc/td-agent/td-agent.conf，增加

									## match tag=docker.* and dump to mongodb

									## 在docker启动容器时，日志的tag要符合docker.*的形式

									<match docker.*>

									 @type mongo

									 # 数据库地址

									 host 127.0.0.1

									 # 数据库端口

									 port 22017

									 # 存储日志的数据库和数据集名称

									 database docker

									 collection log

									</match>

重启td-agent。

启动容器

启动容器的命令改为：

1	`$ docker run --mount` `type=bind,source=/home/demo/app,destination=/app` `--log-driver=fluentd --log-opt tag="docker.log"` `python3:latest python3` `/app/test.py`

运行完毕后，可以到MongoDB中查看日志。

后续

但是在实际的使用过程中，却发现Docker生成的日志并不会立即写入到MongoDB中，有大概1分钟左右的延迟。

查阅Fluentd的文档得知，有一个flush参数可以控制日志的写入频率，默认的是60s。更改flush_interval参数就可以提高写入频率，具体更改如下：

1	`## match tag=docker.* and dump to console <match docker.*> @type mongo host 127.0.0.1 port 22017 database docker collection log <buffer> flush_mode interval flush_interval 1s </buffer> </match>`

刚开始对文档理解不太透彻，增加了flush_interval参数后，并没有发挥作用，第一次更改时，并没有将flush_mode和flush_interval放在buffer结构中。也就是：

1	`## match tag=docker.* and dump to console <match docker.*> @type mongo host 127.0.0.1 port 22017 database docker collection log flush_mode interval flush_interval 1s </match>`

从日志中也可以看出上面的配置，并没有发挥作用：

2018-01-19 14:33:32 +0800 [warn]: parameter '**flush_mode**' in <match docker.*> @type mongo host "1270.0.0.1" port 22017 database "docker" collection "log" flush_mode interval flush_interval 1s buffer_chunk_limit 8m time_key time <inject> time_key time time_format %Y-%m-%d %H:%M:%S.%L </inject> </match> is not used.

上面说flush_mode并没有起作用。

总结

以上就是这篇文章的全部内容了，希望本文的内容对大家的学习或者工作具有一定的参考学习价值，如果有疑问大家可以留言交流，谢谢大家对服务器之家的支持。

参考文档：

原文链接：https://blog.csdn.net/mydeman/article/details/79091037