Instalado Charm++ no Windos com Cygwin a partir dos fontes
- instalar Cygwin - usado versão 2.721
- baixar Charm - usado charm-6.2.1_src.tar.gz
- descompactar em /home/User
- compilado com
./build charm++ net-cygwin smp
Mostrando postagens com marcador Cluster. Mostrar todas as postagens
Mostrando postagens com marcador Cluster. Mostrar todas as postagens
segunda-feira, 11 de outubro de 2010
segunda-feira, 4 de outubro de 2010
Open Source e-books for Linux
http://www.dailyartisan.com/news/open-source-e-books-for-linux/
especialmente este
Linux Compute Clusters
http://linuxclusters.com/compute_clusters.html
especialmente este
Linux Compute Clusters
http://linuxclusters.com/compute_clusters.html
domingo, 5 de abril de 2009
sexta-feira, 3 de abril de 2009
VirtualBox
Criando clones de uma imagem no VirtualBox
comando específico
comando específico
F:\virtualbox>VBoxManage clonehd f:\virtualbox\master.vdi f:\virtualbox\slave.vdi
tem de usar o caminho completo ou usar o UUID do disco
não pode apenas copiar tem de ser via comando VBoxManage
Links
Accessing VirtualBox VDI Disks on the Host Computer
http://www.raiden.net/?cat=2&aid=461
Acesso ssh host para guest no VirtualBox
e ssh usuario@localhost -p 5679
Acesso ssh host para guest no VirtualBox
e ssh usuario@localhost -p 5679
terça-feira, 16 de setembro de 2008
Terminado instalação Disco Framework
Instalado e testado no laboratório D o framework Disco nas máquinas d10 (master), d07,d08, d09, d11, e d12 (slaves). Feito os dois exemplos de contagem de palavras em arquivo texto.
Como sugestão instalar o Hadoop no laboratório F ficando no total 4 ambientes para processamento de alto desempenho
- Cluster DRDB e Sun GridEngine Lab D
- Framework disco para processamento em grandes volumes de Dados Lab D
- MapReduce com Hadoop Lab F (a ser feito)
- Participação no projeto OurGrid no micro grid.unisul.br - a espera de suporte
Sugestão de Leitura
University of Washington: Problem Solving on Large Scale Clusters
Google: MapReduce in a Week
Google Code University - Distributed Systems
Como sugestão instalar o Hadoop no laboratório F ficando no total 4 ambientes para processamento de alto desempenho
- Cluster DRDB e Sun GridEngine Lab D
- Framework disco para processamento em grandes volumes de Dados Lab D
- MapReduce com Hadoop Lab F (a ser feito)
- Participação no projeto OurGrid no micro grid.unisul.br - a espera de suporte
Sugestão de Leitura
University of Washington: Problem Solving on Large Scale Clusters
Google: MapReduce in a Week
Google Code University - Distributed Systems
Marcadores:
Cluster,
Linux,
programação,
simulação
Tradução de Texto sobre o Método de Monte Carlo
Iniciado a tradução de um texto sobre o método de Monte Carlo, surgiu da necessidade de revisão após ler uma introdução sobre MaprReduce do Google.
Simulação Básica Monte Carlo
original http://www.vertex42.com/ExcelArticles/mc/MonteCarloSimulation.html
O método de Monte Carlo é uma técnica que envolve o uso de números aleatórios e a probabilidade para resolver problemas. O termo Método de Monte Carlo foi cunhado por S. Ulam e Nicholas Metropolis, em referência aos jogos de azar, uma atração popular em Monte Carlo, Mônaco (Hoffman, 1998; Metropolis e Ulam, 1949).
Simulação computacional tem a ver com a utilizar modelos informáticos para imitar a vida real ou fazer previsões. Quando se cria um modelo com uma planilha de cálculo como o Excel, você tem um certo número de parâmetros de entrada e algumas equações que usam essas entradas para dar-lhe um conjunto de saídas (ou variáveis resposta). Este tipo de modelo é normalmente deterministas, o que significa que você obtem os mesmos resultados não importa quantas vezes você re-calcular.
[figura 1] - Um modelo paramétrico deterministas mapeia um conjunto de variáveis de entrada para um conjunto de parâmetros de saída.
Exemplo 1 um modelo determinista para juros compostos
Um exemplo de modelo determinista é um cálculo para determinar o retorno sobre o investimento de 5 anos com uma taxa de juro anual de 7%, composta mensalmente. O modelo é apenas a equação a seguir:
F = P(1+r/m)^ym
As entradas são o investimento inicial (P = US $ 1000), a taxa de juro anual (r = 7% = 0,07), a composição período (m = 12 meses), e do número de anos (Y = 5).
(simulação em javascrpt)
Um dos propósitos de um modelo como este é fazer previsões e tentar cenários "Oque Se?" . Você pode alterar as entradas e recalcular o modelo e você terá uma nova resposta. Talvez você ainda deseja plotar um gráfico do valor futuro (F) versus anos (Y). Em alguns casos, você pode ter uma taxa de juro fixa, mas o que você faz quando a taxa de juros é permitida a mudança? Por esta equação simples, você poderá ter o cuidado de saber apenas uma pior / melhor dos cenários, onde se calcular o valor futuro basear-se as mais baixas taxas de juro mais elevadas e que você poderia esperar.
[figura 1] - Um modelo paramétrico deterministas mapeia um conjunto de variáveis de entrada em um conjunto de variáveis de saída
Simulação Monte Carlo é um método para avaliar interativamente um modelo deterministico utilizando conjuntos de números aleatórios como entradas. Este método é muitas vezes usado quando o modelo é complexo, não linear, ou envolve mais do que apenas um grupo (couple) de parâmetros incertos. Uma simulação geralmente pode envolver mais de 10000 avaliações do modelo, uma tarefa que no passado era apenas práticos utilizando super computadores.
Exemplo 2 Um modelo estocástico de um conjunto de dobradiças
Um modelo estocástico é que envolve probabilidade ou aleatoriedade. Neste exemplo, temos um conjunto de 4 elementos que compõem uma dobradiça, com um pino ou parafuso através dos centros das partes. Olhando para a figura a seguir, se A + B + C é superior a D, vamos ter dificuldade de colocar estas coisas juntos.
[figura 1] - a dobradiça
Vamos dizer que temos um milhão de cada uma das diferentes partes, e nós precisamos seleccionar ao acaso as partes a fim de montar a dobradiça. Duas partes não vão ser exatamente do mesmo tamanho! Mas, se temos uma idéia da gama de tamanhos para cada lado, então nós podemos simular a seleção e montagem das peças matematicamente.
(continua)
[07/05/18]
Boa introdução sobre o métodode Monte Carlo
Estimando o valor de pi usando o método de Monte Carlo
Simulação Básica Monte Carlo
original http://www.vertex42.com/ExcelArticles/mc/MonteCarloSimulation.html
O método de Monte Carlo é uma técnica que envolve o uso de números aleatórios e a probabilidade para resolver problemas. O termo Método de Monte Carlo foi cunhado por S. Ulam e Nicholas Metropolis, em referência aos jogos de azar, uma atração popular em Monte Carlo, Mônaco (Hoffman, 1998; Metropolis e Ulam, 1949).
Simulação computacional tem a ver com a utilizar modelos informáticos para imitar a vida real ou fazer previsões. Quando se cria um modelo com uma planilha de cálculo como o Excel, você tem um certo número de parâmetros de entrada e algumas equações que usam essas entradas para dar-lhe um conjunto de saídas (ou variáveis resposta). Este tipo de modelo é normalmente deterministas, o que significa que você obtem os mesmos resultados não importa quantas vezes você re-calcular.
[figura 1] - Um modelo paramétrico deterministas mapeia um conjunto de variáveis de entrada para um conjunto de parâmetros de saída.
Exemplo 1 um modelo determinista para juros compostos
Um exemplo de modelo determinista é um cálculo para determinar o retorno sobre o investimento de 5 anos com uma taxa de juro anual de 7%, composta mensalmente. O modelo é apenas a equação a seguir:
F = P(1+r/m)^ym
As entradas são o investimento inicial (P = US $ 1000), a taxa de juro anual (r = 7% = 0,07), a composição período (m = 12 meses), e do número de anos (Y = 5).
(simulação em javascrpt)
Um dos propósitos de um modelo como este é fazer previsões e tentar cenários "Oque Se?" . Você pode alterar as entradas e recalcular o modelo e você terá uma nova resposta. Talvez você ainda deseja plotar um gráfico do valor futuro (F) versus anos (Y). Em alguns casos, você pode ter uma taxa de juro fixa, mas o que você faz quando a taxa de juros é permitida a mudança? Por esta equação simples, você poderá ter o cuidado de saber apenas uma pior / melhor dos cenários, onde se calcular o valor futuro basear-se as mais baixas taxas de juro mais elevadas e que você poderia esperar.
[figura 1] - Um modelo paramétrico deterministas mapeia um conjunto de variáveis de entrada em um conjunto de variáveis de saída
Simulação Monte Carlo é um método para avaliar interativamente um modelo deterministico utilizando conjuntos de números aleatórios como entradas. Este método é muitas vezes usado quando o modelo é complexo, não linear, ou envolve mais do que apenas um grupo (couple) de parâmetros incertos. Uma simulação geralmente pode envolver mais de 10000 avaliações do modelo, uma tarefa que no passado era apenas práticos utilizando super computadores.
Exemplo 2 Um modelo estocástico de um conjunto de dobradiças
Um modelo estocástico é que envolve probabilidade ou aleatoriedade. Neste exemplo, temos um conjunto de 4 elementos que compõem uma dobradiça, com um pino ou parafuso através dos centros das partes. Olhando para a figura a seguir, se A + B + C é superior a D, vamos ter dificuldade de colocar estas coisas juntos.
[figura 1] - a dobradiça
Vamos dizer que temos um milhão de cada uma das diferentes partes, e nós precisamos seleccionar ao acaso as partes a fim de montar a dobradiça. Duas partes não vão ser exatamente do mesmo tamanho! Mas, se temos uma idéia da gama de tamanhos para cada lado, então nós podemos simular a seleção e montagem das peças matematicamente.
(continua)
[07/05/18]
Boa introdução sobre o métodode Monte Carlo
Estimando o valor de pi usando o método de Monte Carlo
Marcadores:
Cluster,
IA,
Matemática,
simulação
sábado, 13 de setembro de 2008
Instalação Framework Disco
no final de semana passado foi instalado no laboratório C o Framework Disco que é uma implementação no estilo Map/Reduce do google sendo a diferença que o lado cliente é programado em python. Como a versão do linux era o Fedora 5 não funcionou - o pacote erlang e lighttpd foram compilados a partir dos fontes para garantir a versão. Nova tantativa hoje no labortório D com fedora 7, falta o tópico 4. Configure authentication em diante. Configurado a máquina D10 com master e D12 como slave a máquina D11 está com problema de atualização do no yum.
Marcadores:
Cluster,
Linux,
programação
quinta-feira, 3 de julho de 2008
instalação Equalizer
Instalado no Debian da coordenação o Equalizer, instalado antes o uuid-dev e flex
criado ainda a variável de ambiente LD_LIBRARY_PATH
export LD_LIBRARY_PATH=/home/marco/Equalizer-0.5.0/build/Linux/i686/lib
Os binários estão disponíveis no diretório buid, mas deu erro ao rodar o exemplo:
cd Equalizer-0.5.0/build/Linux/bin/
./eqServer.i686 & (inicia o servidor)
./eqPly.i686 (cliente)
Parte do erro gerado:
2879 3071575776 ./examples/eqPly/vertexData.cpp:137 Unable to open PLY file ../share/data/rockerArm.ply for reading.
2879 3071575776 ./examples/eqPly/vertexBufferRoot.cpp:126 Unable to load PLY file.
2879 3071575776 ./examples/eqPly/node.cpp:31 Can't load model: ../share/data/rockerArm.ply
2879 3062774672 ./lib/client/glXMessagePump.cpp:24 Receiver thread not waiting?
2879 3062774672 ./lib/client/glXMessagePump.cpp:24 Receiver thread not waiting?
2876 3071112928 ./server/window.cpp:293 Window initialisation failed: Window pixel viewport invalid
- pipe init failed?
...
criado na mão o diretório ../share/data/ que na verdade está em ../share/Equalizer/data/
ainda apresenta erro, por indicação do FAQ foi altrerado o arquivo /etc/hosts o hostname da máquina esta apontando 127.0.0.1 e foi colocado 10.7.1.80 que é o ip da máquina
-------------------------------------
Em casa funcionou normalmente para isto foi preciso criar um link simbólico:
ln -s libGL.so.1.2 libGL.so
estava dando erro na compilação em "-lGL"
criado ainda a variável de ambiente LD_LIBRARY_PATH
export LD_LIBRARY_PATH=/home/marco/Equalizer-0.5.0/build/Linux/i686/lib
Os binários estão disponíveis no diretório buid, mas deu erro ao rodar o exemplo:
cd Equalizer-0.5.0/build/Linux/bin/
./eqServer.i686 & (inicia o servidor)
./eqPly.i686 (cliente)
Parte do erro gerado:
2879 3071575776 ./examples/eqPly/vertexData.cpp:137 Unable to open PLY file ../share/data/rockerArm.ply for reading.
2879 3071575776 ./examples/eqPly/vertexBufferRoot.cpp:126 Unable to load PLY file.
2879 3071575776 ./examples/eqPly/node.cpp:31 Can't load model: ../share/data/rockerArm.ply
2879 3062774672 ./lib/client/glXMessagePump.cpp:24 Receiver thread not waiting?
2879 3062774672 ./lib/client/glXMessagePump.cpp:24 Receiver thread not waiting?
2876 3071112928 ./server/window.cpp:293 Window initialisation failed: Window pixel viewport invalid
- pipe init failed?
...
criado na mão o diretório ../share/data/ que na verdade está em ../share/Equalizer/data/
ainda apresenta erro, por indicação do FAQ foi altrerado o arquivo /etc/hosts o hostname da máquina esta apontando 127.0.0.1 e foi colocado 10.7.1.80 que é o ip da máquina
-------------------------------------
Em casa funcionou normalmente para isto foi preciso criar um link simbólico:
ln -s libGL.so.1.2 libGL.so
estava dando erro na compilação em "-lGL"
terça-feira, 29 de abril de 2008
Configuração Octave
Configuração da biblioteca mpitb que permite o octave rodar em um cluster. Funcionando localmente. Ocorre um erro ao rodar nos slaves, problema detectado no script .octaverc a variável de ambiente $HOME aponta para root, como o diretório de instalação foi movido para /opt as máquinas slaves acusam erro neste arquivo uma vez que no root dos slaves não existe o diretório mpitb. Ajustar para o valor de MPITB_HOME deste aqrivo aponte para o diretório correto em todos os micros
entendeu?...
entendeu?...
Marcadores:
Cluster,
Linux,
programação
sobre o Hadoop
Hadoop é uma implementação open source do paradigma MapReduce do Google. Funciona em cluster Linux, no Windows somente para desenvolvimento local. É possível Hadoop rodar no EC2 o serviço de Clould computing da Amazon. Com este serviço o suário compra poder de processamento a $0.10 por hora consumida. Clould computing - ambiente de computação baseado em rede (clould - nuvem)
fonte
http://www.infoq.com/news/2006/11/hadoop-ec2
fonte
http://www.infoq.com/news/2006/11/hadoop-ec2
Marcadores:
Cluster,
Java,
programação
terça-feira, 15 de abril de 2008
Configurar Xwindows para redirecionar janelas
redirecionar as telas da máquina Master do cluster (laboratório) para o da Coordenação, as duas rodando Debian+Gnome na máquina da coordenação:
xhost +
ssh -l marco -X 10.7.8.41 (-X redireciona)
(já na máquina remota)
export DISPLAY="10.7.1.100:0.0"
comandos...
domingo, 9 de março de 2008
Virtual Cluster com Qemu
Versão do Debian não roda com kqemu
compilado kqemu (versão 1.3.0pre11) e qemu (versão 0,9,1) no diretório /home/marco/virtualcluster
configuração:
# mknod /dev/kqemu c 250 0
# chmod 666 /dev/kqemu
# modprobe kqemu
depois de compilar qemu:
# cp /home/marco/virtualcluster/qemu-0.9.1/pc-bios/bios.bin /usr/local/share/qemu/
# cp /home/marco/virtualcluster/qemu-0.9.1/pc-bios/vgabios-cirrus.bin /usr/local/share/qemu/
rodado uma instância com
# qemu -kernel-kqemu -m 256 -cdrom pelican32-v1.3.iso
próximo passo configurar a rede
Links
Kqemu: Qemu 5x mais rápido. Um concorrente à altura do VMware
Parallel Knoppix master node running in an instance of QEMU
compilado kqemu (versão 1.3.0pre11) e qemu (versão 0,9,1) no diretório /home/marco/virtualcluster
configuração:
# mknod /dev/kqemu c 250 0
# chmod 666 /dev/kqemu
# modprobe kqemu
depois de compilar qemu:
# cp /home/marco/virtualcluster/qemu-0.9.1/pc-bios/bios.bin /usr/local/share/qemu/
# cp /home/marco/virtualcluster/qemu-0.9.1/pc-bios/vgabios-cirrus.bin /usr/local/share/qemu/
rodado uma instância com
# qemu -kernel-kqemu -m 256 -cdrom pelican32-v1.3.iso
próximo passo configurar a rede
Links
Kqemu: Qemu 5x mais rápido. Um concorrente à altura do VMware
Parallel Knoppix master node running in an instance of QEMU
Assinar:
Postagens (Atom)
