了解如何使用 Fluent Bit 配置将 主管 控制平面日志转发到外部监控系统（如 Grafana Loki 或 Elastic Search）。

主管 控制平面日志会自动转发到使用 Fluent Bit 配置到 vCenter Server 设备的 syslog 服务器。Fluent Bit 是一种开源轻型日志记录和衡量指标处理器和转发器，可提供配置以支持各种日志数据类型、筛选和日志标记增强功能。

在 主管 激活或升级期间，引导日志仍由 rsyslog 转发到配置到 vCenter Server 设备的 syslog 服务器。主管 控制平面虚拟机启动并运行后，Fluent Bit 将成为 主管 控制平面日志的默认日志转发器。

作为 vSphere 管理员，您可以使用 Fluent Bit 来：

  • 将 主管 控制平面日志和系统日志转发到主要外部日志监控平台，如 Loki、Elastic Search、Grafana 以及 Fluent Bit 支持的其他平台。

  • 使用 k8s API 更新或重置 主管 控制平面的日志转发配置。
Fluent Bit 在 主管 控制平面节点上作为 DeamonSet 运行。它在 vmware-system-logging 命名空间下公开了 fluentbit-config-custom ConfigMap，vSphere 管理员可以编辑该命名空间，以通过定义日志服务器将日志转发配置到外部平台。 
inputs-custom.conf: |
  [INPUT]
      Name              tail
      Alias             audit_apiserver_tail
      Tag               audit.apiserver.*
      Path              /var/log/vmware/audit/kube-apiserver.log
      DB                /var/log/vmware/fluentbit/flb_audit_apiserver.db
      Buffer_Max_Size   12MBb
      Mem_Buf_Limit     32MB
      Skip_Long_Lines   On
      Refresh_Interval  10
 
filters-custom.conf: |
  [FILTER]
      Name           record_modifier
      Alias          audit_apiserver_modifier
      Match          audit.apiserver.*
      Record         hostname ${NODE_NAME}
      Record         appname audit-kube-apiserver
      Record         filename kube-apiserver.log
 
outputs-custom.conf: |
  [OUTPUT]
     Name                 syslog
     Alias                audit_apiserver_output_syslog
     Match                audit.apiserver.*
     Host                 <syslog-server-host>
     Port                 <syslog-server-port>
     Mode                 tcp
     Syslog_Format        rfc5424
     Syslog_Message_key   log
     Syslog_Hostname_key  hostname
     Syslog_Appname_key   appname
     Syslog_Msgid_key     filename

自定义 Fluent Bit 日志转发

按照以下步骤自定义 Fluent Bit 日志转发配置：

  1. 以 vCenter Single Sign-On 管理员身份登录到 主管 控制平面。
    > kubectl vsphere login --server=<supervisor-cluster-vip> -u [email protected]
> kubectl config use-context <supervisor-cluster-vip>
  2. 在 fluentbit-config-custom ConfigMap 中的 outputs-custom.conf 部分中更新或添加 syslog 输出，该输出会将所有控制平面虚拟机系统日志转发到外部服务器。
    [OUTPUT]
     Name                 syslog
     Alias                syslog_system
     Match                system*
     Host                 <syslog-server-host>
     Port                 <syslog-server-port>
     Mode                 tcp
     Syslog_Format        rfc5424
     Syslog_Message_key   log
     Syslog_Hostname_key  hostname
     Syslog_Appname_key   appname
     Syslog_Msgid_key     filename
     # add the following if the mode is TLS
     Tls                  on
     Tls.verify           off
     Tls.ca_file          /etc/ssl/certs/vmca.pem
  3. 将更改应用于 fluentbit-config-custom ConfigMap。
    > kubectl -n vmware-system-logging edit cm fluentbit-config-custom
 
# use the below command if the change is stored in outputs-custom.conf file
> kubectl -n vmware-system-logging create configmap fluentbit-config-custom --from-file=filters-custom.conf --from-file=inputs-custom.conf --from-file=outputs-custom.conf -o yaml --from-file=parsers-custom.conf --dry-run | kubectl replace -f -

  4. 监控 Fluent Bit Pod 以自动应用配置更改，并在 syslog 服务器上查询 主管 日志。如果 Fluentbit DaemonSet 在重新加载更新的配置后出现错误，请修复或重置 fluentbit-config-custom ConfigMap 中的配置，以确保 Fluentbit DaemonSet 正常运行。

    > kubectl -n vmware-system-logging get pod
> kubectl -n vmware-system-logging logs <fluentbit-pod-name>

将 Kubernetes API 服务器审核日志转发到 Grafana Loki 服务器

按照以下步骤配置将日志转发到外部 Grafana Loki 服务器：

  1. 以 vCenter Single Sign-On 管理员身份登录到 主管 控制平面。
    > kubectl vsphere login --server=<supervisor-cluster-vip> -u [email protected]
> kubectl config use-context <supervisor-cluster-vip>
  2. 在 fluentbit-config-custom ConfigMap 中的 outputs-custom.conf 部分中更新或添加 Loki 输出，该输出会将所有控制平面虚拟机系统日志转发到 Loki 日志服务器。
    [OUTPUT]
        Name loki
        Alias system_output_loki
        Match system*
        Host <loki-server-host>
        Port <loki-server-port>
        Labels $hostname,$appname,$filename,$procid,$labels
  3. 将更改应用于 fluentbit-config-custom ConfigMap。
    > kubectl -n vmware-system-logging edit cm fluentbit-config-custom
 
# use the below command if the change is stored in outputs-custom.conf file
> kubectl -n vmware-system-logging create configmap fluentbit-config-custom --from-file=filters-custom.conf --from-file=inputs-custom.conf --from-file=outputs-custom.conf -o yaml --from-file=parsers-custom.conf --dry-run | kubectl replace -f -

  4. 监控 Fluent Bit Pod 以自动应用配置更改，并在 syslog 服务器上查询 主管 日志。如果 Fluentbit DaemonSet 在重新加载更新的配置后出现错误，请修复或重置 fluentbit-config-custom ConfigMap 中的配置，以确保 Fluentbit DaemonSet 正常运行。

    > kubectl -n vmware-system-logging get pod
> kubectl -n vmware-system-logging logs <fluentbit-pod-name>

将日志转发到 Elastic Search

按照以下步骤配置将日志转发到外部 Elastic Search 服务器：
  1. 以 vCenter Single Sign-On 管理员身份登录到 主管 控制平面。
    > kubectl vsphere login --server=<supervisor-cluster-vip> -u [email protected]
> kubectl config use-context <supervisor-cluster-vip>
  2. 在 fluentbit-config-custom ConfigMap 中的 outputs-custom.conf 部分中更新或添加 Elastic Search 输出，该输出会将所有控制平面虚拟机系统日志转发到 ES 日志服务器。
    [OUTPUT]
       Name es
       Alias system_output_es
       Match system*
       Host <es-server-host>
       Port <es-server-port>
       Index supervisor
       Type controlplanevm
  3. 将更改应用于 fluentbit-config-custom ConfigMap。
    > kubectl -n vmware-system-logging edit cm fluentbit-config-custom
 
# use the below command if the change is stored in outputs-custom.conf file
> kubectl -n vmware-system-logging create configmap fluentbit-config-custom --from-file=filters-custom.conf --from-file=inputs-custom.conf --from-file=outputs-custom.conf -o yaml --from-file=parsers-custom.conf --dry-run | kubectl replace -f -

  5. 监控 Fluent Bit Pod 以自动应用配置更改，并在 syslog 服务器上查询 主管 日志。

    > kubectl -n vmware-system-logging get pod
> kubectl -n vmware-system-logging logs <fluentbit-pod-name>

将 Kubernetes API 审核日志转发到 Syslog 服务器

按照以下步骤配置将 Kubernetes API 审核日志转发到外部 syslog 服务器：

  1. 将 kubectl-plugin-vsphere 和 authproxy 输入添加到 fluentbit-config ConfigMap：
    [INPUT]
    Name              tail
    Tag               auth.kubectl-plugin.*
    Path              /var/log/containers/audit/kubectl-plugin-vsphere*.log
    DB                /var/log/vmware/fluentbit/flb_auth_kubectl-plugin.db
    Skip_Long_Lines   Off
    Refresh_Interval  10
 
[INPUT]
    Name              tail
    Tag               auth.authproxy.*
    Path              /var/log/containers/audit/wcp-authproxy*.log
    DB                /var/log/vmware/fluentbit/flb_auth_authproxy.db
    Skip_Long_Lines   Off
    Refresh_Interval  10
  2. 将 kubectl-plugin-vsphere 和 authproxy 筛选器添加到 fluentbit-config ConfigMap：
    [FILTER]
    Name           kubernetes
    Match          auth.*
    Kube_URL       https://localhost:6443
    Tls.verify     Off
    K8S-Logging.Parser On
    K8S-Logging.Exclude On
 
[FILTER]
    Name           record_modifier
    Match          auth.*
    Operation      lift
    Nested_under   kubernetes
 
[FILTER]
    Name           modify
    Match          auth.*
    Rename         container_name appname
    Rename         host hostname
    Rename         pod_name procid
  3. 将 syslog 服务器的 kubectl-plugin-vsphere 输出添加到 fluentbit-config ConfigMap：
    [OUTPUT]
    Name                 syslog
    Match                auth.*
    Host                 <syslog-server-host>
    Port                 <syslog-server-port>
    Mode                 tcp
    Syslog_Format        rfc5424
    Syslog_Message_key   log
    Syslog_Hostname_key  hostname
    Syslog_Appname_key   appname
    Syslog_Msgid_key     filename
  4. 将上述文件包含在 vmware-system-logging 命名空间下的 fluentbit-config ConfigMap 中。
    > k -n vmware-system-logging edit cm fluentbit-config
> k -n vmware-system-logging rollout restart ds fluentbit
> k -n vmware-system-logging rollout status ds fluentbit