Descreve como instalar o qcow do SD-WAN Gateway no KVM.

Nota: Esta implementação é testada em KVM Ubuntu 16.04 e 18.04.

Considerações de pré-instalação

O KVM disponibiliza várias formas de permitir o funcionamento em rede para as máquinas virtuais. O fornecimento em rede em libvirt deve ser provisionado antes da configuração VM. Existem várias formas de configurar o funcionamento em rede no KVM. Para uma configuração completa de opções sobre como configurar redes no libvirt, consulte a seguinte ligação:

https://libvirt.org/formatnetwork.html

Na lista completa de opções, o VMware recomenda os seguintes modos:

  • SR-IOV (este modo é necessário para que o SD-WAN Gateway entregue o débito máximo especificado pelo VMware)
  • Bridge OpenVSwitch

Se decidir utilizar o modo SR-IOV, ative o SR-IOV no KVM. Para ativar o SR-IOV no KVM, consulte Ativar o SR-IOV no KVM.

Passos de instalação do SD-WAN Gateway no KVM

  1. Copie o QCOW e os ficheiros Cloud-init criados na secção Criação de cloud-init para um novo diretório vazio.
  2. Crie as interfaces de rede que vai utilizar para o dispositivo.

    Utilizar o SR-IOV: o seguinte é um modelo de interface de rede de amostras específico para os cartões NIC Intel X710/XL710 utilizando o SR-IOV. 

        <interface type='hostdev' managed='yes'>
        <mac address='52:54:00:79:19:3d'/>
        <driver name='vfio'/>
        <source>
            <address type='pci' domain='0x0000' bus='0x83' slot='0x0a' function='0x0'/>
        </source>
        <model type='virtio'/>
    </interface>
    Utilizar o OpenVSwitch: os seguintes são os modelos de amostras de uma interface de rede utilizando o OpenVSwitch. 
    git ./vcg/templates/KVM_NETWORKING_SAMPLES/template_outside_openvswitch.xml
    <?xml version="1.0" encoding="UTF-8"?>
<network>
   <name>public_interface</name>
   <!--This is the network name-->
   <model type="virtio" />
   <forward mode="bridge" />
   <bridge name="publicinterface" />
   <virtualport type="openvswitch" />
   <vlan trunk="yes">
      <tag id="50" />
      <!--Define all the VLANS for this Bridge -->
      <tag id="51" />
      <!--Define all the VLANS for this Bridge -->
   </vlan>
</network>

    Crie uma rede para o inside_interface:

    git ./vcg/templates/KVM_NETWORKING_SAMPLES/template_inside_openvswitch.xml
    <network>
  <name>inside_interface</name> <!--This is the network name-->
  <model type='virtio'/>
  <forward mode="bridge"/>
  <bridge name="insideinterface"/>
  <virtualport type='openvswitch'></virtualport>
  <vlan trunk='yes'></vlan>
  <tag id='200'/> <!—Define all the VLANS for this Bridge -->
  <tag id='201'/> <!—Define all the VLANS for this Bridge -->
  <tag id='202'/> <!—Define all the VLANS for this Bridge -->
</network>
    Se estiver a utilizar o modo OpenVSwitch, terá de verificar se as redes básicas estão criadas e ativas antes de iniciar a VM.
    Nota: Este passo de validação não é aplicável para o modo SR-IOV, uma vez que não cria nenhuma rede antes de a VM ser iniciada.

    vcg-code-verify-the-basic

  3. Edite o ficheiro XML da VM. Existem várias formas de criar uma máquina virtual no KVM. Pode definir a VM num ficheiro XML e criá-lo utilizando o libvirt, o modelo XML da VM de amostra específico para o modo OpenVSwitch e o modo SR-IOV. 
    vi my_vm.xml
    Segue-se um modelo de amostra de uma VM que utiliza interfaces OpenVSwitch. Utilize este modelo realizando edições, sempre que aplicável.
    <?xml version="1.0" encoding="UTF-8"?>
<domain type="kvm">
   <name>#domain_name#</name>
   <memory unit="KiB">8388608</memory>
   <currentMemory unit="KiB">8388608</currentMemory>
   <vcpu>8</vcpu>
   <cputune>
      <vcpupin vcpu="0" cpuset="0" />
      <vcpupin vcpu="1" cpuset="1" />
      <vcpupin vcpu="2" cpuset="2" />
      <vcpupin vcpu="3" cpuset="3" />
      <vcpupin vcpu="4" cpuset="4" />
      <vcpupin vcpu="5" cpuset="5" />
      <vcpupin vcpu="6" cpuset="6" />
      <vcpupin vcpu="7" cpuset="7" />
   </cputune>
   <resource>
      <partition>/machine</partition>
   </resource>
   <os>
      <type>hvm</type>
   </os>
   <features>
      <acpi />
      <apic />
      <pae />
   </features>
   <cpu mode="host-passthrough" />
   <clock offset="utc" />
   <on_poweroff>destroy</on_poweroff>
   <on_reboot>restart</on_reboot>
   <on_crash>restart</on_crash>
   <devices>
      <emulator>/usr/bin/kvm-spice</emulator>
      <disk type="file" device="disk">
         <driver name="qemu" type="qcow2" />
         <source file="#folder#/#qcow_root#" />
         <target dev="hda" bus="ide" />
         <alias name="ide0-0-0" />
         <address type="drive" controller="0" bus="0" target="0" unit="0" />
      </disk>
      <disk type="file" device="cdrom">
         <driver name="qemu" type="raw" />
         <source file="#folder#/#Cloud_ INIT_ ISO#" />
         <target dev="sdb" bus="sata" />
         <readonly />
         <alias name="sata1-0-0" />
         <address type="drive" controller="1" bus="0" target="0" unit="0" />
      </disk>
      <controller type="usb" index="0">
         <alias name="usb0" />
         <address type="pci" domain="0x0000" bus="0x00" slot="0x01" function="0x2" />
      </controller>
      <controller type="pci" index="0" model="pci-root">
         <alias name="pci.0" />
      </controller>
      <controller type="ide" index="0">
         <alias name="ide0" />
         <address type="pci" domain="0x0000" bus="0x00" slot="0x01" function="0x1" />
      </controller>
      <interface type="network">
         <source network="public_interface" />
         <vlan>
            <tag id="#public_vlan#" />
         </vlan>
         <alias name="hostdev1" />
         <address type="pci" domain="0x0000" bus="0x00" slot="0x11" function="0x0" />
      </interface>
      <interface type="network">
         <source network="inside_interface" />
         <alias name="hostdev2" />
         <address type="pci" domain="0x0000" bus="0x00" slot="0x12" function="0x0" />
      </interface>
      <serial type="pty">
         <source path="/dev/pts/3" />
         <target port="0" />
         <alias name="serial0" />
      </serial>
      <console type="pty" tty="/dev/pts/3">
         <source path="/dev/pts/3" />
         <target type="serial" port="0" />
         <alias name="serial0" />
      </console>
      <memballoon model="none" />
   </devices>
   <seclabel type="none" />
</domain>
    Segue-se um modelo de amostra de uma VM que utiliza interfaces SR-IOV. Utilize este modelo realizando edições, sempre que aplicável.
    <?xml version="1.0" encoding="UTF-8"?>
<domain type="kvm">
   <name>#domain_name#</name>
   <memory unit="KiB">8388608</memory>
   <currentMemory unit="KiB">8388608</currentMemory>
   <vcpu>8</vcpu>
   <cputune>
      <vcpupin vcpu="0" cpuset="0" />
      <vcpupin vcpu="1" cpuset="1" />
      <vcpupin vcpu="2" cpuset="2" />
      <vcpupin vcpu="3" cpuset="3" />
      <vcpupin vcpu="4" cpuset="4" />
      <vcpupin vcpu="5" cpuset="5" />
      <vcpupin vcpu="6" cpuset="6" />
      <vcpupin vcpu="7" cpuset="7" />
   </cputune>
   <resource>
      <partition>/machine</partition>
   </resource>
   <os>
      <type>hvm</type>
   </os>
   <features>
      <acpi />
      <apic />
      <pae />
   </features>
   <cpu mode="host-passthrough" />
   <clock offset="utc" />
   <on_poweroff>destroy</on_poweroff>
   <on_reboot>restart</on_reboot>
   <on_crash>restart</on_crash>
   <devices>
      <emulator>/usr/bin/kvm-spice</emulator>
      <disk type="file" device="disk">
         <driver name="qemu" type="qcow2" />
         <source file="#folder#/#qcow_root#" />
         <target dev="hda" bus="ide" />
         <alias name="ide0-0-0" />
         <address type="drive" controller="0" bus="0" target="0" unit="0" />
      </disk>
      <disk type="file" device="cdrom">
         <driver name="qemu" type="raw" />
         <source file="#folder#/#Cloud_ INIT_ ISO#" />
         <target dev="sdb" bus="sata" />
         <readonly />
         <alias name="sata1-0-0" />
         <address type="drive" controller="1" bus="0" target="0" unit="0" />
      </disk>
      <controller type="usb" index="0">
         <alias name="usb0" />
         <address type="pci" domain="0x0000" bus="0x00" slot="0x01" function="0x2" />
      </controller>
      <controller type="pci" index="0" model="pci-root">
         <alias name="pci.0" />
      </controller>
      <controller type="ide" index="0">
         <alias name="ide0" />
         <address type="pci" domain="0x0000" bus="0x00" slot="0x01" function="0x1" />
      </controller>
      <interface type='hostdev' managed='yes'>
 	  <mac address='52:54:00:79:19:3d'/>
  	 <driver name='vfio'/>
  	 <source>
              <address type='pci' domain='0x0000' bus='0x83' slot='0x0a' function='0x0'/>
 	  </source>
  	 <model type='virtio'/>
      </interface>
      <interface type='hostdev' managed='yes'>
 	  <mac address='52:54:00:74:69:4d'/>
  	 <driver name='vfio'/>
  	 <source>
              <address type='pci' domain='0x0000' bus='0x83' slot='0x0a' function='0x1'/>
 	  </source>
  	 <model type='virtio'/>
      </interface>
      <serial type="pty">
         <source path="/dev/pts/3" />
         <target port="0" />
         <alias name="serial0" />
      </serial>
      <console type="pty" tty="/dev/pts/3">
         <source path="/dev/pts/3" />
         <target type="serial" port="0" />
         <alias name="serial0" />
      </console>
      <memballoon model="none" />
   </devices>
   <seclabel type="none" />
</domain>
  4. Inicie a VM executando os seguintes passos:
    1. Certifique-se de que tem os seguintes três ficheiros no diretório, conforme mostrado na seguinte amostra de imagem:
      • qcow file – vcg-root
      • cloud-init – vcg-test.iso
      • Ficheiro XML de domínio que define a VM – test_vcg.xml, em que test_vcg é o nome de domínio.

      vcg-code-networks-created-active

    2. Defina a VM.
      velocloud@KVMperf2:/tmp/VeloCloudGateway$ virsh define test_vcg.xml
Domain test_vcg defined from test_vcg.xml
    3. Defina a VM para arranque automático.
      velocloud@KVMperf2:/tmp/VeloCloudGateway$ virsh autostart test_vcg
    4. Inicie a VM.
      velocloud@KVMperf2:/tmp/VeloCloudGateway$ virsh start test_vcg
  5. Se estiver a utilizar o modo SR-IOV, depois de iniciar a VM, defina o seguinte nas funções virtuais (VFs) utilizadas:
    1. Defina o spoofcheck como desligado.
      ip link set eth1 vf 0 spoofchk off
    2. Defina o modo fidedigno como ligado.
      ip link set dev eth1 vf 0 trust on
    3. Defina a VLAN, se necessário.
      ip link set eth1 vf 0 vlan 3500
    Nota: O passo de configuração das funções virtuais não é aplicável para o modo OpenVSwitch (OVS).
  6. Aceda à consola na VM. 
    virsh list
Id Name State
----------------------------------------------------
25 test_vcg running
velocloud@KVMperf2$ virsh console 25
Connected to domain test_vcg
Escape character is ^]

Consideração especial para o anfitrião KVM

  • Desative o GRO (Generic Receive Offload) nas interfaces físicas (para evitar uma refragmentação desnecessária no SD-WAN Gateway). 
    ethtool –K <interface> gro off tx off
  • Desative os estados C da CPU (estados de energia afetam o desempenho em tempo real). Normalmente, pode ser feito como parte das opções de arranque do kernel ao acrescentar processor.max_cstate=1 ou desative no BIOS.

  • Para a implementação da produção, os vCPUs devem ser afixados à instância. Não deve ser permitida a subscrição excessiva dos núcleos.