Case B3 – Migração Hadoop

Sobre o
PROJETO

Publicado em: 22 de junho de 2023 às 15:21

BRLink: Transformando a Infraestrutura de Dados da B3 na Nuvem AWS

Sobre o cliente

A B3 é uma das principais empresas de infraestrutura financeira do mundo, atuando como a bolsa do Brasil. Com presença global, ela conecta e viabiliza o mercado financeiro e de capitais, oferecendo uma ampla gama de serviços, incluindo negociação, compensação e registro de diversos ativos. Sua atuação abrange desde ações até commodities, apoiando o crescimento do país e promovendo melhores práticas no mercado.

Saiba mais: www.b3.com.br

Desafio

A B3, empresa responsável pelo ambiente de negociação e liquidação de ativos financeiros, estava enfrentando desafios significativos relacionados à sua infraestrutura de TI, principalmente em seu ambiente de dados. Com toda a sua estrutura implementada em um ambiente on-premise, a empresa tinha altos custos com manutenção, proteção de dados, atualizações e evolução do sistema, incluindo o custo de licenciamento do SQL Server. Esses gastos adicionais com licenças representavam uma parcela significativa do investimento em TI da B3. Além disso, a escalabilidade dessa infraestrutura estava chegando ao limite, uma vez que a necessidade de armazenamento de dados superaria os 100 terabytes e o processamento exigiria o dobro da capacidade até 2023.

Diante dessa situação, a B3 se deparou com duas opções: investir na duplicação da infraestrutura on-premise, o que acarretaria altos custos e responsabilidades adicionais, ou migrar para um ambiente de computação em nuvem, que oferece disponibilidade e escalabilidade infinita. A empresa decidiu buscar alternativas que eliminassem a dependência do licenciamento, fossem escaláveis e proporcionassem um equilíbrio entre custo e desempenho.

A solução ideal encontrada foi migrar os dados on-premise para uma plataforma de dados estruturada na nuvem da AWS (Amazon Web Services). Essa decisão permitiria que a B3 se beneficiasse das vantagens da nuvem, como disponibilidade, escalabilidade e o uso de tecnologias open-source. Ao adotar serviços gerenciados, a empresa transferiria a responsabilidade de manutenção, segurança e atualização do sistema para o provedor de nuvem, nesse caso, a AWS.

Por que a B3 escolheu a BRLink?

Para garantir uma migração bem-sucedida e aproveitar ao máximo os benefícios da nuvem, a B3 escolheu a BRLink, líder no mercado de serviços de nuvem, como parceira para auxiliar nesse processo. A BRLink tem experiência e expertise para garantir uma transição suave, garantindo que a B3 se beneficie das vantagens da nuvem AWS.

As bases de dados foram divididas em três grandes grupos: Plataforma e Sistemas Transacionais; Dados de Parceiros; e Dados Originados de Provedores. Assim, os desafios da BRLink para a migração seriam os volumes dos dados expressivos, a orquestração das diversas arquiteturas, o refinamento dos dados, a validação e a verificação dos dados migrados e o tempo de implementação.

Compartilhe esta publicação:

Solução

Em agosto de 2021, a BRLink iniciou um abrangente processo de avaliação dos dados da B3, buscando identificar oportunidades de melhoria e definir uma estratégia para aprimorar a gestão das informações. Como parte desse trabalho, a BRLink pavimentou toda a infraestrutura da nuvem AWS, adotando as melhores práticas de segurança e compliance para garantir a integridade dos dados.

Durante a migração, a BRLink realizou a ingestão dos dados, adotando medidas de criptografia de ponta a ponta para proteger as informações sensíveis em trânsito. Além disso, a equipe utilizou o serviço Amazon EMR (Elastic MapReduce) para transformar e processar todas as informações de maneira eficiente e escalável.

Para o consumo dos dados, foram implementadas soluções como o Amazon Redshift e o Dremio, permitindo acesso rápido e eficiente às informações armazenadas na nuvem AWS. Ao mesmo tempo, a BRLink trabalhou em estreita colaboração com a B3 para garantir a conformidade com as diretrizes da LGPD (Lei Geral de Proteção de Dados), implementando as medidas necessárias para garantir a governança adequada dos dados.

Além disso, a BRLink criou um ambiente de sandbox, que proporcionou aos times de ciência de dados um espaço seguro para explorar e utilizar a completa suíte de serviços de Inteligência Artificial e Aprendizado de Máquina (AI&ML) oferecidos pela AWS. Isso permitiu a realização de testes e experimentos sem comprometer a integridade dos dados ou a segurança do sistema.

No final do processo, em julho de 2022, a BRLink concluiu com sucesso a migração completa da plataforma Hadoop para a AWS, resultando em uma otimização de todos os procedimentos funcionais. A B3 agora se beneficia de uma infraestrutura moderna na nuvem, com maior segurança, escalabilidade e eficiência na gestão dos dados.

Benefícios adquiridos

  • Custos fixos: previsibilidade financeira, sem despesas imprevistas.
  • Segurança da informação: backups, recuperação de dados e criptografia garantidos.
  • Atualização de softwares: responsabilidade do provedor de computação em nuvem.
  • Suporte técnico especializado: assistência profissional em caso de necessidades.
  • Plataformas intuitivas: facilidade de uso e gerenciamento simplificado.
  • Rápida implementação: ativação imediata do sistema na nuvem.
  • Escalabilidade: capacidade de expandir o serviço conforme a demanda.
  • Ativação do provedor como extensão do Data Center da B3.
  • Implementação de arquitetura de dados moderna para maior eficiência.
  • Big Data: armazenamento, visualização e processamento avançado de dados.

Compartilhe esta publicação:

Entre em
CONTATO

Para descobrir como nossos serviços auxiliam os seus negócios, entre em contato conosco.

Tem alguma dúvida?
LIGUE PRA NÓS!