• ELK监控平台对接

    前提条件:ELK监控平台已搭建完成

    查看如何搭建ELK监控平台请点击:ELK监控平台搭建

    搭建完ELK监控平台之后,我们需要在要搜集日志的服务所在的服务器上部署filebeat来搜集这些日志的内容并将内容按照一定的格式输出到我们配置好的logstash中即可。下面介绍一下如何安装filebeat。

    补充说明

    在参考该篇文档对接ELK监控平台前,请确认您搭建的logstash的配置规则是否与 ELK监控平台搭建 中logstash的配置规则一致,若不一致则filebeat内的配置需根据实际的规则进行配置,本文仅做参考即可。

    filebeat

    小提示:filebeat需要安装在要搜集日志的服务器上。例如我们要监控hzero_platform服务器上,那就需要将filebeat安装在与hzero_platform相同的服务器上,并通过一些配置来搜集该服务的日志。

    服务器部署

    1.下载tar.gz 源码包,若下载链接失效,可以参考官网查询最新的下载方式:filebeat

    curl -L -O https://artifacts.elastic.co/downloads/beats/filebeat/filebeat-6.8.3-linux-x86_64.tar.gz
    

    2.解压,调整配置文件,参数修改完成后保存即可

    tar -zxvf filebeat-6.8.3-linux-x86_64.tar.gz
    mv filebeat-6.8.3 filebeat
    cd filebeat
    vim filebeat.yml
    

    示例配置如下:

    force_close_files: true # 当文件改名或删除时,会自动关闭文件
    # 配置filebeat传输到logstash中的参数,其中tags字段中的内容是我们定义的最终es的索引格式,在logstash中会在其后面拼接时间戳来区分相同服务不同日期的日志信息。
    filebeat.prospectors:
    
    - type: log
    
      enabled: true
      # 指定需要搜集的日志文件路径。注意:该配置需修改为实际需搜集的服务日志文件路径。
      paths:
        - /hzero-repo/hzero-platform/target/app.log
      # 标记tag,用于logstash中设置索引。注意:该配置需修改为实际要设置的索引前缀,推荐格式:环境类型+服务名称,例如融合开发环境平台服务则为integration_dev-hzero-platform。
      tags: ["integration_dev-hzero-platform"]
      multiline.pattern: ^\[
      multiline.negate: true
      multiline.match: after
    
    # 开启filebeat输出到logstash。注意:在此之前需要禁用掉默认开启的es输出
    output.logstash:
      # Logstash hosts。注意:该配置需修改为实际logstash的hosts地址
      hosts: ["localhost:5044"]
      
    processors:
      - add_host_metadata:
          netinfo.enabled: true
          cache.ttl: 5m
      - add_cloud_metadata: ~
    
    

    注意:上述配置中需要重点关注paths下的配置,该处必须指定实际要搜集的日志文件路径。还要关注的就是配置filebeat输出到logstash时要注意修改hosts为实际的hosts, 在配置完成后需注释掉filebeat输出到es的配置再保存。

    3.启动filebeat

    # 直接启动
    ./filebeat
    # 后台启动,filebeat日志量较大且日志用处不大,因此直接不生成filebeat的日志即可。注意:该方式仅为推荐,根据实际需求进行修改即可
    nohup ./filebeat -e -c filebeat.yml >/dev/null 2>&1 & 
    

    配置完成并启动filebeat后,我们就可以在logstash中看到filebeat传输数据的日志信息了。也可以通过kibana来直接查看生成的相应索引下的日志信息。