Você precisa de uma máquina que pode fornecer centenas de trilhões de cálculos de vírgula flutuante por segundo? Ou você está precisando de uma história de bar sobre como o supercomputador em seu porão capotou um disjuntor? Construir seu próprio cluster de computação de alto desempenho, conhecido como supercomputador, é um desafio que qualquer geek especialista com um fim de semana de tempo livre e algum dinheiro para gastar pode enfrentar. Tecnicamente falando, um supercomputador moderno com vários processadores é uma rede de computadores trabalhando juntos em paralelo para resolver um problema. Este artigo descreverá resumidamente cada etapa do processo, com foco em hardware e software.
Passos
Etapa 1. Primeiro, determine os componentes de hardware e recursos necessários
Você precisará de um nó principal, pelo menos uma dúzia de nós de computação idênticos, um switch Ethernet, uma unidade de distribuição de energia e um rack. Determine a demanda elétrica, refrigeração e espaço necessário. Decida também qual endereço IP deseja para suas redes privadas, como nomear os nós, quais pacotes de software deseja instalar e que tecnologia deseja fornecer os recursos de computação paralela (mais sobre isso mais tarde).
- Embora o hardware seja caro, todos os softwares listados neste manual são gratuitos e a maioria é de código aberto.
- Se você gostaria de ver o quão rápido seu supercomputador seria teoricamente, use esta ferramenta:
Etapa 2. Construir os nós de computação
Você precisará montar os nós de computação ou adquirir servidores pré-construídos.
- Escolha um chassi de servidor de computador que maximize o espaço, o resfriamento e a eficiência energética.
- Ou você pode utilizar uma dúzia ou mais de servidores desatualizados usados - cujo todo superará a soma de suas partes, mas economizará um bom dinheiro. Todos os processadores, adaptadores de rede e placas-mãe devem ser idênticos para que o sistema inteiro funcione bem. Claro, não se esqueça da RAM e do armazenamento para cada nó e de pelo menos uma unidade óptica para o nó principal.
Etapa 3. Instale os servidores no rack
Comece de baixo para que o rack não seja pesado na parte superior. Você precisará de um amigo para ajudá-lo com isso - os servidores densos podem ser muito pesados e é difícil guiá-los nos trilhos que os prendem no rack.
Etapa 4. Instale o switch Ethernet acima do chassi do servidor
Aproveite este momento para configurar o switch: permita tamanhos de quadro jumbo de 9000 bytes, defina o endereço IP para o endereço estático que você decidiu na etapa 1 e desative os protocolos de roteamento desnecessários, como SMTP Snooping.
Etapa 5. Instale a PDU (Unidade de distribuição de energia)
Dependendo de quanta corrente seus nós podem precisar na carga máxima, você pode precisar de 220 volts para computação de alto desempenho.
Etapa 6. Com tudo instalado, você pode iniciar o processo de configuração
Linux é o sistema operacional de fato para clusters HPC - não apenas é o ambiente ideal para computação científica, mas não custa nada instalá-lo em centenas ou mesmo milhares de nós. Imagine quanto custaria instalar o Windows em todos esses nós!
- Comece instalando a versão mais recente do BIOS e firmware da placa-mãe, que deve ser igual em todos os nós.
- Instale sua distribuição Linux preferida em cada nó, com uma IU gráfica para o nó principal. As escolhas populares incluem CentOS, OpenSuse, Scientific Linux, RedHat e SLES.
- Este autor recomenda fortemente o uso do Rocks Cluster Distribution. Além de instalar todas as ferramentas necessárias para um cluster de computação funcionar, o Rocks usa um ótimo método para 'distribuir' muitas instâncias de si mesmo para os nós muito rapidamente usando a inicialização PXE e o procedimento Red Hat 'Kick Start'.
Etapa 7. Instale a interface de passagem de mensagens, o gerenciador de recursos e outras bibliotecas necessárias
Se você não instalou o Rocks na etapa anterior, terá que configurar manualmente o software necessário para habilitar os mecanismos de computação paralela.
- Primeiro, você precisará de um sistema de gerenciamento bash portátil, como o Torque Resource Manager, que permite dividir e distribuir tarefas para várias máquinas.
- Emparelhe o Torque com o Maui Cluster Scheduler para concluir a configuração.
- Em seguida, você precisará instalar a interface de passagem de mensagem, necessária para que os processos individuais nos nós de computação separados compartilhem os mesmos dados. OpenMP é um acéfalo.
- Não se esqueça das bibliotecas matemáticas multi-threading e compiladores para construir seus programas de computação paralela. Eu mencionei que você deve apenas instalar o Rocks?
Etapa 8. Conecte os nós de computação em rede
O nó principal envia as tarefas de computação para os nós de computação, que por sua vez devem enviar o resultado de volta, bem como enviar mensagens entre si. Quanto mais rápido, melhor.
- Use uma rede Ethernet privada para conectar todos os nós do cluster.
- O nó principal também pode atuar como um servidor NFS, PXE, DHCP, TFTP e NTP na rede Ethernet.
- Você deve separar esta rede das redes públicas, o que garante que os pacotes de broadcast não interfiram com outras redes em sua LAN.
Etapa 9. Teste o cluster
A última coisa que você pode querer fazer antes de liberar todo esse poder de computação para seus usuários é testar seu desempenho. O benchmark HPL (High Performance Lynpack) é uma escolha popular para medir a velocidade computacional do cluster. Você precisará compilá-lo do código-fonte com todas as otimizações possíveis que seu compilador oferece para a arquitetura escolhida.
- Você deve, é claro, compilar a partir do código-fonte com todas as opções de otimização possíveis para sua plataforma. Por exemplo, se estiver usando CPUs AMD, compile com Open64 com nível de otimização -0 rápido.
- Compare seus resultados no TOP500.org para comparar seu cluster aos 500 supercomputadores mais rápidos do mundo!
Vídeo - Ao usar este serviço, algumas informações podem ser compartilhadas com o YouTube
Pontas
- Para velocidades de rede realmente altas, examine as interfaces de rede InfiniBand. Esteja preparado para pagar preços premium.
- O IPMI pode tornar a administração de um grande cluster uma brisa, fornecendo KVM-over-IP, desligamento remoto e muito mais.
- Use o Ganglia para monitorar as cargas computacionais nos nós.
