NSX-T Montando uma topologia para o Core de um Datacenter (Parte 1)

Olá pessoal, espero que todos estejam bem.

Recentemente fomos realizar um refresh do NSX-T, surgiram muitas duvidas tanto no dimensionamento de servidores fisicos para a função de EDGE do NSX quanto na questão de arquitetura.Neste momento vamos abordar a topologia que decidimos implementar, será a primeira parte de uma implementação que vamos detalhar de inicio ao fim até a fase de produção.

O VMware NSX oferece suporte a duas formas de Edge Transport Node: Edge Virtual Machine (VM) ou Bare Metal (BM) Edge. São muitos fatores para se considerar no momento de usar em VM Edge ou BM Edge. Abaixo, estamos passando por considerações de design e arquitetura para BM Edge e quais configurações usamos para maximizar o desempenho.

Segue abaixo a configuração do Hardware utilizado:

Switch :

2 x PowerSwitch S5232F-ON

Edge BM:

PowerEdge R6625
• PowerEdge R6625 Server BCC
• 2 x Processadores AMD EPYC 9254 2.90GHz, 24C/48T, 128M Cache (200W) DDR5-4800
• 16 x Memória de 64GB RDIMM, 4800MT/s, Dual Rank 16Gb Base x4, BCC
• 2 x Drives de 480GB SSD SATA Read Intensive 6Gbps
• Placa de Rede Intel E810-XXV Dual Port 10/25GbE SFP28
• Placa de Rede Intel E810-XXVDA4 Quad Port 10/25GbE SFP28
• 2 x Mellanox ConnectX-6 DX Dual Port 100GbE QSFP56

Topologia de Conectividade do EDGE BM com os Switchs Core

Tomamos alguns cuidados se você observar cada servidor fisico tem 2 interfaces de 100GbE, ou seja até mesmo se uma placa PCI sofrer alguma falha o trafego ainda terá uma perna pela outra placa, são proteções simples que no final trazem uma resiliencia e segurança muito melhor em grandes ambientes produtivos. Lembrando que não é apenas 1 Servidor fazendo essa função critica , e sim 4 servidores com a configuração descrita acima.

Considerações importantes para selecionar o Hardware

Para Bare Metal Edge, você precisa selecionar hardware que satisfaça os requisitos para o throughput que você precisa atingir. Para fazer essa seleção, você deve considerar estes componentes importantes, abaixo vamos colocar os pontos importantes e o que escolhemos:

  1. NIC física (Mellanox ConnectX-6 DX Dual Port 100GbE QSFP56)
  2. CPU (AMD EPYC 9254 2.90GHz, 24C/48T, 128M Cache)
  3. Memória (6 x Memória de 64GB RDIMM, 4800MT/s)
  4. Slots PCI (PCIe Gen5 @32 GT/s)
  5. Armazenamento (480GB SSD SATA Read Intensive 6Gbps)

NIC Física: A escolha da NIC física é crucial, considerando a largura de banda e a resiliência necessária para o Bare Metal Edge. É essencial verificar se a NIC é compatível com a versão do VMware NSX e validar a documentação oficial da VMware. Devem-se considerar a largura de banda máxima suportada pelo barramento PCIe do servidor e a necessidade de agregação de links ou múltiplas portas para melhorar o desempenho. A resiliência também é importante; recomenda-se distribuir as portas em diferentes placas para proteger o tráfego em caso de falha. O VMware NSX suporta até 16 portas por Bare Metal Edge, com escalabilidade adicional por meio de mais NICs ou Bare Metal Edges no cluster.

NSX Edge Bare Metal Requirements

CPU: A seleção de CPUs para o Bare Metal Edge envolve escolher entre processadores Intel e AMD, considerando o número de núcleos e a velocidade do clock. O número de núcleos impacta diretamente o desempenho do NSX Edge, especialmente no processamento de pacotes (DataPath). O VMware NSX 4.1 suporta até 64 núcleos no total, com até 32 núcleos por soquete em servidores de soquete duplo. A arquitetura NUMA (Non-Uniform Memory Access) deve ser compreendida para otimizar o mapeamento de NICs e o encaminhamento de tráfego. Desabilitar o hyper-threading é recomendado para maximizar o desempenho.

Memória: A escolha da memória para o Bare Metal Edge deve focar na compatibilidade com a CPU e na velocidade de transferência (MT/s). A memória mínima recomendada é de 32 GB, enquanto a ideal é de 256 GB ou mais, dependendo das necessidades de desempenho. A configuração adequada da memória, preenchendo todos os slots DIM disponíveis, pode melhorar significativamente o desempenho, como visto em testes com 2048 GB de memória rodando a 2933 MT/s.

Slots PCI: Ao selecionar servidores, é importante considerar a geração dos slots PCI-E (Geração 3, 4 ou 5) e suas larguras de banda teóricas e típicas. Testes específicos foram realizados com Mellanox ConnectX-5 EX em PCI Generation 4, proporcionando uma largura de banda significativa de 210 Gbps por slot PCI-E. A necessidade de uma geração PCI mais recente pode surgir se houver múltiplas portas na placa que exigem utilização simultânea.

Armazenamento: O armazenamento para o Bare Metal Edge deve ser local e atender aos requisitos mínimos de espaço em disco. É crucial que o controlador de armazenamento seja compatível com o software Bare Metal Edge Ubuntu, garantindo suporte adequado. A certificação do hardware pode ser verificada na documentação oficial da VMware e no site de certificação do Ubuntu.

Na proxima etapa , vamos ver este cenario implementado e as considerações a nivel de NSX.

Continue Reading

Dell EMC Networking VEP1485 – Edge Computing

Olá pessoal, todos bem?

Consegui um Hardware da DELL para laboratório chamado VEP “Virtual Edge Platform” para rodar em meu HomeLab. E o resultado dos testes foi além do esperado. Gostaria de elencar abaixo alguns dos pontos que me fez adorar este Hardware, principalmente para fazer a função de Edge mas também como um excelente equipamento para ter em casa e executar laboratórios.

  • Baixo consumo de Energia (Monitorei a alimentação deste Hardware e o seu consumo é de 35 a 45W .
  • Tamanho reduzido, diferente de um servidor de Rack este Hardware tem o tamanho de um ThinClient.
  • Recurso de Hardaware bem interessante (16 Cores, 64GB RAM , 2 TB SSD, 6 Interfaces 1GB e 2 Interfaces 10GB SFP+)

Hoje em dia falamos muito da Jornada de migrar nossas aplicações para Nuvem, porém algumas aplicações ainda são sensíveis com questão de latência, podemos imaginar que boa parte das aplicações estejam rodando na Nuvem.

Vamos imaginar o seguinte cenário onde você precisa manter localmente serviços como um Controlador de Domínio ou algum servidor de aplicação que depende de latência baixa e com a adoção deste Hardware você pode deixar suas máquinas virtuais ou até mesmo containers rodando neste equipamento com uma réplica para Nuvem configurada.

Com a replica das máquinas deste equipamento para Nuvem no caso de um sinistro você até pode sofrer com latência, porém garante a continuidade da sua operação até realizar o FailBack.

O caso acima é um exemplo simples que pode ser implementando de várias formas, replicando com VMware fazendo uma nuvem estendida. Também é possível utilizar o VEEAM caso o Datacenter trabalhe com CloudConnect da VEEAM , você pode replicar essa máquina para dentro do seu tennant no VMware Cloud Director.

Abaixo gosto de mostrar um exemplo real e simples com VEEM , aonde o print é exatamente um ESXI rodando no VEP com várias maquinas virtuais como de VEEAM, PFsense, AD, DNS e WTS. Sendo muito parecido com senário de muitos clientes.

Foi criado no VEEAM uma réplica utilizando o CloudConnect e conforme a imagem abaixo minha VM de WTS já está replicada e aguardando ser iniciada na Cloud caso aconteça algum sinistro na borda. Isso é possível com o DR Planning  no Veeam.

Claro existe várias questões de remap de rede e roteamentos que precisam ser ajustadas para rodar na Nuvem, mas este não é o foco deste tópico.

Vamos Falar um puco sobre este equipamento?

Continue Reading

Como replicar do VMware ao VMware Cloud com Veeam

Olá amigos, depois depois de muito tempo sem postar retorno trazendo algo simples.

Vejo muitas pessoas com duvidas neste assunto, então vamos explicar de uma maneira didática e simples como replicar uma maquina virtual do seu parque ESXI para o VMware Cloud (VCLOUD) . Está uma demanda que vem crescendo de pessoas saindo do on-premise para cloud.

O que será necessário:

  • Uma licença vCenter Server que suporte replicação ( As licenças Standard, Enterprise e Enterprise Plus suportam replicação)
  • Uma licença do Veeam Backup & Replication que seja igual ou superior à edição Standard
  • Uma rede que conecte o vCenter Server, o repositório de backup e o destino de replicação.

Vamos começar a configuração do JOB de replicação abrindo o Veeam Backup Server indo no caminho abaixo:

Passo 1

Backup Infrastructure / Service Provider / Add Service Provider

Passo 2

No passo de numero dois vamos adicionar o endereço (URL) informado por seu provedor de nuvem. E clicar na opção Next para avançar a configuração do seu JOB.

Nota: A porta 6180 é a padrão utilizada por muitos, porem pode acontecer de ser utilizado outra porta para essa comunicação.

Passo 3

No passo de numero três vamos informar as credenciais e clicar na opção Next para avançar a configuração do seu JOB. Porem vamos entender como a credencial abaixo é composta

Nota: A credencial é composta pelo nome da organização e o usuário do VMware Cloud, então por mais que o provedor tenha fornecido as credenciais, você mesmo pode ir até o painel e criar um usuário especifico para o Veeam .

Exemplo: nome-da-minha-org-vmware-cloud/usuario-de-acesso

Passo 4

No passo de numero quatro será importante observar se o seu provedor forneceu repositório de backup ou apenas ambiente para replicação em nuvem. No caso abaixo podemos ver um repositório de 1TB. Com isso podemos avançar a configuração do JOB.

Passo 5

Nenhuma configuração se faz necessário neste estagio, veremos listados os seus recursos dentro do VMware Cloud para replicação do seu ambiente virtual. Se tudo estiver de acordo com seu contratado pode ser aplicado as configurações.

Nota: Pode aparecer mais de um tennant dependendo da quantidade de virtuais datacenter que serão utilizados ou contratados pelo cliente.

Passo 6

Abaixo podemos ver nos logs se todas as configurações ocorreram bem. Caso algo falhe durante a configuração do seu JOB retorne e revise as informações cadastradas.

Passo 7

Por fim podemos validar todos os recursos que foram configurados. Com isso pode ser finalizado a configuração.

Passo 8

Após finalizado o passo acima o Veeam vai disparar um JOB para fazer o rescan em toda a infraestrutura de Service Provider, caso retorne sucesso você pode iniciar a configuração do seu JOB.

Passo 9

Simples, nosso Service Provider está cadastrado e disponível para realizar a replicação para seu provedor de nuvem.

Passo 10

O passo de numero dez presume que você já tenha um host ESXI ou um VCenter Server cadastrado na infraestrutura do Veeam contendo suas maquinas virtuais . Em próximo artigo podemos focar apenas no cadastramento dos hosts e clusters VMware no Veeam.

Agora nosso próximo passo é criar um JOB para replicar a maquina virtual do seu ambiente on-premis para cloud

Vamos fazer a configuração do JOB no caminho abaixo:

Home / Jobs / Replication / Virtual Machine

Passo 11

Note abaixo que no JOB de replica temos varias configurações especificas para mudança de placa de redes, baixo consumo de link e mudança de endereçamento. Neste momento não entraremos em nenhuma destas opções. Será tratado em um próximo post.

Abaixo foi colocado no campo Name a opção de nome desejada e avançado para próxima aba de configuração.

Passo 12

Abaixo podemos ver que na opção de Virtual Machines podemos escolher quais maquinas do nosso ESXI ou VCenter Server podemos replicar para o VMware Cloud via CloudConnect. No caso abaixo vou replicar a maquina virtual do CLIENTE-A.

Passo 13

Com a maquina virtual escolhida a replicar temos que apontar o Destino que no nosso caso é um VMware Cloud utilizando CloudConnect :

Item 1 – ORG do VMware Cloud informada pelo seu provedor de Nuvem.

Item 2 – Selecione o VDC ( Virtual Datacenter) cadastrado no passo de numero 2.

Item 3 – vApp, caso você não tenha nenhum vApp no VMware Cloud o Veeam já replica para o vApp default.

Item 4 – Pode ser escolhido as politicas de discos disponíveis em seu Cloud como T1, T2 ou T3.

Passo 14

Importante saltar se caso tenha algum repositório especifico que você deseja manter os metadados é importante adiciona-lo antes de chegar nesta etapa. No caso abaixo deixamos o repetitório default do Veeam que acaba sendo o disco do próprio servidor aonde Veeam está instalado.

Alem disto no campo Replica name suffix pode ser adicionado qualquer nome adicionar que você deseja incrementar ao nome da maquina virtual no momento da replicação. Gosto sempre de deixar o suffix como _replica pois fica mais claro na gerencia do VMware Cloud para saber que aquela maquina virtual é uma replica.

Com isso você tambem pode definir quantos restores point de replicação deseja manter na maquina virtual.

Passo 15

Este passo não aprofundaremos muito, pois você pode selecionar proxy veeam diferentes na sua infraestrutura caso tenha algum servidor de proxy dedicado para grandes demandas e segmentação dos seus backups.

Vamos seguir com o proxy default que é o mesmo servidor do Veeam Server. Lembrando que este é um cenário de laboratório, pequenas replicações e até mesmo o único movimento de mover do seus servidores locais para a nuvem.

Passo 16

O Guest Processsing tambem é algo que não vamos adentrar nesta configuração básica, nele você pode definir parâmetros de aplicação de banco e até mesmo as credenciais do servidor para gerencia de arquivos da maquina a ser replicada.

No exemplo não estamos definindo nenhum destes parâmetros pois estamos movendo a maquina para a nuvem.

Passo 17

Para finalizar você pode escolher por iniciar o JOB manualmente e replicar a maquina apenas uma vez , ou deixar conforme abaixo replicando a cada 1 hora. E no momento ideal você para o servidor na origem para iniciar o seu servidor na nuvem e garantir a consistência dos dados.

Neste momento podemos ver a replica iniciar e validar nossa maquina virtual no VMware Cloud

Porem fim nosso JOB começou a replicar e concluiu sem problemas.

Chegado o grande momento de ver sua maquina dentro do VMware Cloud

Pronto, conforme abaixo podemos ver a maquina virtual foi replicada e já se encontra desligada dentro do VMware Cloud.

Ai cabe a sua estratégia de como migrar seus serviços, muitos casos que vejo clientes desligam seu servidores no VMware, fazem uma replica com a maquina desligada para garantir a consistência e ligam a maquina depois de replicada na nuvem.

Nos próximos materiais aprofundaremos melhor sobre arquiteturas de replicação e configurações avançadas.

Existe vários parâmetros que podem ser melhorados, porem este post visa ajudar pessoas que querem fazer pequenas movimentações e replicas.

Até a próxima.

Continue Reading

Como atualizar/instalar certificado SSL VMWare Cloud Directory

Olá amigos, abaixo veremos como executar a troca do certificado SSL no vCloud Directory, lembrando que o mesmo procedimento serve também para instalação:

Observação: O Tipo de certificado usado no VMWare Cloud foi JKS (Java Key Store).

Link da Documentação:

Deploy the VMware Cloud Director Appliance with Signed Wildcard Certificates for HTTPS and Console Proxy Communication

Pré-requisitos:

Primeiro passo é gerar certificado SSL tipo PFX/PKCS#12 . Uma dica é usar o site: SSL Converter
Informando o Certificate + Private Key + Intermediate + RootCA juntamente com a senha do certificado.

Copiar o arquivo PFX do novo certificado para qualquer servidor com Keytool (Necessário JDK) e iniciar o procedimento de criar o certificado JKS:

Documentação usada no procedimento abaixo: Build a JKS

Lembrando que o VMWare Cloud tem dois serviços na qual o JKS precisa ser gerado:
Alias 1=http
Alias 2=consoleproxy

Gerando o certificado JKS:

Conforme o comando abaixo, estamos utilizando o PFX gerado no procedimento acima para gerar o JKS referente ao HTTPS service:

keytool -importkeystore -srckeystore certificado.com.br.pfx -srcstoretype pkcs12 -srcalias 1 -destkeystore certificado.com.br.ks -deststoretype jks -
deststorepass 3gSA2 -destalias http

Muito semelhante ao comando acima a alteração realizada está no nome do serviço, na qual incluímos no JKS criado o ConsoleProxy service:

keytool -importkeystore -srckeystore certificado.com.br.pfx -srcstoretype pkcs12 -srcalias 1 -destkeystore certificado.com.br.ks -deststoretype jks -deststorepass 3gSA2 -destalias consoleproxy

Procedimento:

Pronto, assim você gerou em um unico arquivo os dois Alias necessarios para o Vmware Cloud.

  • 1 – Copiar o JKS para: /opt/vmware/vcloud-director/data/transfer/certificado/
  • 2 – Mudar o author do arquivo para usuário vcloud: chown vcloud.vcloud certificado.com.br.ks
  • 3 – Rodar o comando de import passando o novo certificado KS juntamente com a senha do certificado:
    • cd /opt/vmware/vcloud-director/bin
    • ./cell-management-tool certificates -j -p -k /opt/vmware/vcloud-director/data/transfer/certificado/certificado.com.br.ks -w 3gSA2
  • 6 – Reiniciar o serviço do VMWare Cloud: systemctl restart vmware-vcd

Observação, realizar este procedimento em todas as instancias VCD.

Validação:

Dicas para validação após este procedimento:

  • Reiniciar servidores do VMWare Cloud.
  • Validar saúde do cluster em: “Embedded Database Availability”
  • Testar o certificado SSL para cada instancia:
    curl -k -v https://instance1/api/versions
    curl -k -v https://instance2/api/versions
    curl -k -v https://instance3/api/versions
    curl -k -v https://instance4/api/versions

Validar erros da Instancia:

cat /opt/vmware/vcloud-director/logs/cell-runtime.log | grep ERROR
tail -f /opt/vmware/vcloud-director/logs/cell-runtime.log

É isso ai pessoal, qualquer duvida fico a disposição.

Continue Reading

Veeam Agent Linux

Olá amigos, tudo bem?

Já faz um tempo sem postar conteúdo tão técnico , mas hoje vamos falar do Veeam que disparado é uma das ferramentas mais usadas do mercado e muito simples, porem que gera algumas duvidas para adimistradores.

Existe muitas formas de utilizar o Veeam para realizar backup da estrutura, pode usar como BaaS, DRaaS ou On-premise. Hoje estarei mostrando abaixo um exemplo com o Oracle Linux aonde o mesmo é apontado para um repositório BaaS com o CloudConnect. Neste caso simularemos um cliente que vai enviar o seu backup do Oracle para um repositório fora da empresa.

Primeiro vou deixar abaixo o link da documentação oficial da Veeam para configuração do Veeam Agente no Linux:

Installing Veeam Agent for Linux

Abaixo sambem vai ficar disponível os requisitos e quais os sistemas operacionais suportados, até o momento não tive problema com nenhuma das distribuições utilizadas, o veeam tem uma boa gama de SO compatível. Bacana também ler no link abaixo sobre os destinos possíveis para arquivar o backup.

System Requirements

Modos de Instalação

É possível realizar dois tipos de instalação, Online e Offline, aonde na opção online o repositório será adicionado e a instalação via yum irá acontecer.

Abrindo o link abaixo você pode escolher o sistema operacional e a arquitetura desejada conforme imagem abaixo:

Instalação Online

Realizado o download do pacote acima foi enviado o mesmo para o servidor via Winscp conforme imagem abaixo:

Agora abaixo vamos adicionar o repositório do Veeam no Oracle Linux, atualizar o repositório e por fim instalar o Veeam.

Comandos:

rpm -ivh veeam-release-el8-1.0.7-1.x86_64.rpm
yum check-updat

Comandos:

yum install veeam

Prontinho, o processo está concluído com sucesso. Agora basta digitar no terminal o comando veeam para abertura do agente. Se tudo ocorreu certo a tela abaixo deve ser mostrada a você.

Na etapa acima e na etapa abaixo é realizado o aceite de termos e a configuração do patch “Veeam Recovery Media” esse ponto é importante caso seu Oracle ou servidor linux seja físico.

Por fim temos o apontamento da licença, hoje a Veeam permite o download da licença full por 30 dias para fim de homologação e testes. Recomento realizar o cadastro no site da Veeam juntamente com o download da licença.

Abaixo enviei o arquivo de licença para o servidor e na etapa de licenciamento apontei o arquivo juntamente com a opção “Server” .

Alguns provavelmente vão perguntar o porque da opção “Server”, segue o link abaixo aonde existe um PDF da Veeam que explica cada tipo e as vantagens como File Indexing, Application-aware e Transaction Log Backup que é utilizado no Oracle.

Editions Comparison

Como diria o Jeferson da Linux Tips “Simples como voar”

Seu Veeam está pronto para a configuração de um job de backup.

Seguindo a configuração vamos precisar informar o nome do Job conforme imagem abaixo:

E abaixo estou optando pelo backup de todo o servidor, porem existe as opções conforme sua demanda e necessidade.

Abaixo gosto de mostrarcomo o Veeam é maleável nos permitindo salvar o backup em discos locais, compartilhamento remoto, repositório Veeam ou em um repositório remoto com o Cloud Connect. Estarei selecionando a opção Cloud Connect.

Por estar usando um CloudConnect valido estou ocultando o endereço remoto, porem caso você contrate um repositório basta informar o endereço que o provedor fornecer.

Usuário e senha também são informados pelo provedor de serviço de Cloud Connect:

Será possível visualizar o repositório contratado para armazenamento apos a autenticação:

Depois de selecionado o repositório você pode configurar algumas opções avançadas conforme sua demanda . É importante usar essas funções quando existe um banco de dados por exemplo.

Por fim você tem a opção de agendamento do job de backup.

Deixei marcado a opção “Start Job Now” para validarmos se a execução vai acontecer com sucesso.

Pronto, nesse momento você já tem o backup sendo enviado para o repositório do CloudConnect.

Qualquer duvida só avisar. Abraços.

Continue Reading