terça-feira, 28 de julho de 2015

Sobre a Teoria da Informação

retalhos recolhidos da web

...Raciocinio básico e primeiro da Teoria da Informação: a relação entre recorrência (portanto probabilidade) e quantidadede de informação.

Recorrência aqui no exemplo da letra "e" no código Morse, por ser a letra mais usada no idioma inglês atribuiu-se a codificação "." (ponto) a ela, ou seja a recorrência (probabilidde) desta letra neste idioma é maior.

Segundo Wiener, "a soma de informação em um sistema é a medida de seu grau de organização; de seu grau de desorganização; um é o negativo do outro".

a expressão "um é o negativo do outro" remete a cologaritmos
colog x = log 1/x ou log a^-1 ou ainda pelas propriedades  -log x

tradução de parte do livro SYMBOLS, SIGNALS AND NOISE de J.R.PIERCE
em fisica, entropia está associada com a possibilidade de converter energia termica em energia mecânica... se a entropia aumenta, a energia disponível diminui. A mecânica estatística interpreta um aumento da entropia como um decrescimo na Ordem (disposição, arrumação), ou se preferirmos, em uma diminuição de nosso conhecimento...
A quantidade de informação transmitida pela mensagem aumenta à medida que a quantidade de incerteza quanto ao que mensagem realmente será produzido se torna maior. (A quantidade de informação transmitida pela mensagem aumenta à medida que a quantidade de incerteza se torna maior.) ... A entropia na teoria da informação é uma medida dessa incerteza... e a incerteza, ou entropia, é tomado como a medida da quantidade de informação transportada por uma mensagem de uma fonte. Quanto mais se sabe sobre que mensagem a fonte vai produzir, menor é a incerteza, menor a entropia, e menor é a informação.


ex. quando se olha uma paisgem, no primeiro momento leva tempo para assimilar todos os detalhes, muita informação (maior a incerteza- do que se esta vendo) assim maior é a entropia

está correto este exemplo? Li num site "Então alta Entropia significa baixa informação. " contradiz meu exemplo. Neste memo site tem uma imagem interessante.

Aqui se faz o cálculo da Entropia (h(pi))  de cada letra do alfabeto dada sua probabilidade (pi) na lingua inglesa. Notar a entropia da letra "e"  (3.5),  menor de todas significando uma maior probabilidade de aparecer o que de fato é verdade ser esta letra a mais usada em ingles, como citado no início

Fazendo a pesquisa achei um texto legal, segue uma parte :
...A análse de Fourier ...está montada, na verdade, na hipótese que os sistemas descritos tenham a característica peculiar de serem lineares.
link
https://www.ift.unesp.br/br/Home/extensao/historia2.pdf

domingo, 26 de julho de 2015

Material Doutorado

Sobre Scientific Workflow 

resumo
Scientific Workflow  é uma automação de um experimento ou de um processo científico, expressa em termos das atividades a serem executadas e, principalmente, das dependências dos dados manipulados

"redes de processos tipicamente utilizadas como ‘pipelines de análises de da dos’ ou ainda para comparar dados observados ou previstos, e que podem incluir uma vasta gama de componentes, e.g. para consultar bancos de dados, para transformar ou minerar dados, para executar simulações em computadores de alto desempenho, etc."

Portanto, um workflow científico é uma automação de um experimento ou de um processo científico, expressa em termos das atividades a serem executadas e, principalmente, das dependências dos dados manipulados

A utilização intensiva de dados caracteriza os workflows científicos como workflows baseados em fluxos de dados (data-driven workflows), ou seja, as conexões entre as atividades do workflow representam basicamente o fluxo dos dados, com o fluxo de controle aparecendo como uma representação complementar.

fonte:
Introdução à Modelagem e Execução de Workflows Científicos
Kepler ferrameta de WorkFlow

Do livro Computational Neuroscience (Kim T. Blackwell) (via google boos pg.195)

The effects of astrocytes-neuron interactions can be studied at different levels of ogranization detail in the brain (here, molecular, cellular, and network levels are illustred). At anu level, the model can be either simplified conceptual or detailed biophysical, depending on scientific question and computational resources. Due to computational limitations, the higher level models (e.g. network) are typically described using simplified conceptual models with few details or mechanisms captured from the molecular level. The direction of workflow is different depending on whwther astrocytes-neuron interactions are studied from "bottom-up" or "top-down". A denotes astrocytes, N neuron, R activated receptor, RC a closed state of a receptor, RI inactivated state of a receptor, and r reaction rate constant.
   
neste caso a abordagem "bottom-up" ou "top-down" depende da direção do workflow de trabalho. Na abordagem "bottom-up"

A complexidade de um modelo pode variar de um conceitual simplificado a um biologicamente detalhado. A direção do fluxo de trabalho (workflow) em modelagem pode ser da escala microscópica para a macroscópica (bottom-up) ou de comportamental e funcional para propriedades de componentes (top-down). O chamado modelo boton-up integra informação em um nível baixo (ex. propriedades de canais de ion, receptores trans-membrana e vias de sinalização) para explicar fenômenos observados em um alto nível (ex. geração de potencial de ação em neurônios, funcionalidade de sinapses tri-partite...) Modelos top-dow, iniciam com conhecimento de rede, sistema ou funcionalidade cognitiva observada no cerebro (ex. memória de trabalho, memória associativa, aprendizado por reforço...) e extrai disso como os coponentes do sistema (ex. grupos de neurônios, neurôios individuais ou coponentes de neurônios) devem se comportar para alcançar estas funções.

visto ainda a linguagem Swift, testar
Link
http://swift-lang.org