Glossário de Termos Estatísticos - Prof. Aldo von Wangenheim

5.5.6. Covariância

A covariância duas variáveis randômicas X e Y, com expected values E(X) = m e E(Y) = n é definida como:

$\operatorname{cov}(X, Y) = E((X - \mu) (Y - \nu)).$

Isto é equivalente à fórmula abaixo, que é geralmente utilizada na realização dos cálculos:

$\operatorname{cov}(X, Y) = \operatorname{E}(X Y) - \mu \nu$

For column-vector valued random variables X and Y with respective expected values ? and ?, and n and m scalar components respectively, the covariance is defined to be the n×m matrix

$\operatorname{cov}(X, Y) = \operatorname{E}((X-\mu)(Y-\nu)^\top).$

cov(X,Y) é também notada como C_XY e denominada matriz de covariância.

If X and Y are independent, then their covariance is zero. This follows because under independence, E(X·Y) = E(X)·E(Y). The converse, however, is not true: it is possible that X and Y are not independent, yet their covariance is zero.

The covariance matrix is always symmetric and positive semi-definite. It is diagonal if all n variables are independent. Its determinant is zero if linear relations exist between variables.

If X and Y are real-valued random variables and c is a constant ("constant", in this context, means non-random), then the following facts are a consequence of the definition of covariance:

$\operatorname{cov}\left(\sum_i{X_i}, \sum_j{Y_j}\right) = \sum_i{\sum_j{\operatorname{cov}\left(X_i, Y_j\right)}}$

For vector-valued random variables, cov(X, Y) and cov(Y, X) are each other's transposes.

The covariance is sometimes called a measure of "linear dependence" between the two random variables. That phrase does not mean the same thing that it means in a more formal linear algebraic setting (see linear dependence), although that meaning is not unrelated.

The correlation is a closely related concept used to measure the degree of linear dependence between two variables.

Parcialmente retirado de "http://en.wikipedia.org/wiki/Covariance" e de "http://rd11.web.cern.ch/RD11/rkb/AN16pp/node42.html"

5.5.7. Valor Esperado

The expectation value or mean of a random variable X or a function H(X) is given by:

for a discrete or continuous variable, respectively. The sum for discrete variables is extended over all possible values of x_i, where P(X=x_i) are the corresponding probabilities. For continuous variables, the probability density is f(x). The concept is readily generalized for several random variables by replacing X by .
The expectation value is a linear operator. The expectation value of a function is sometimes written E_x(H) instead of E(H(x)).

Traduzindo isto em termos menos abstratos, the expected value (or expectation) of a random variable is the sum of the probability of each possible outcome of the experiment multiplied by its payoff ("value"). Thus, it represents the average amount one "expects" to win per bet if bets with identical odds are repeated many times. Note that the value itself may not be expected in the general sense, it may be unlikely or even impossible.

For example, an American Roulette wheel has 38 equally possible outcomes. A bet placed on a single number pays 35-to-1 (this means that he is paid 35 times his bet, while also his bet is returned, together he gets 36 times his bet). So the expected value of the profit resulting from a $1 bet on a single number is, considering all 38 possible outcomes: ( -1 × 37/38 ) + ( 35 × 1/38 ), which is about -0.0526. Therefore one expects, on average, to lose over 5 cents for every dollar bet.

5.5.8. Valor Estandardizado - Estandardização dos Dados

O valor estandardizado de uma distribuição de dados é também chamado de z-score ou valor transformado. Para a maioria dos métodos estatísticos se utiliza a estandardização dos dados. A estandardização é diferente da normalização dos dados, onde se objetiva que cada variável se encontre em uma faixa de valores no intervalo [0,1]. Na estandardização a faixa de valores pode variar e depende do desvio padrão e se utiliza a fórmula abaixo:

x_{estandardizado} = (x - média)/desvio-padrão

calculada, como na normalização, de forma independente para cada variável. A estandardização toma informações sobre a média e o desvio padrão de uma variável e produz um valor correspondente a cada valor original que especifica a posição deste valor original dentro da distribuição original de dados.

O valor original, independentemente de pertencer a uma distribuição de dados que inclua valores negativos, é transformado em um valor com sinal, de tal forma que:

O sinal indique se o valor original , também chamado de score, está acima (+) ou abaixo (-) da média.
O módulo do valor estandardizado indique a distância entre entre a média e o valor original em termos de desvios-padrão.

Dessa forma, um valor estandardizado de -2,4 representa um valor original que se encontra mais de dois desvios-padrão abaixo da média, representando um valor bem defícil de ocorrer de de probabilidade muito baixa.

5.5.9. Hipótese Nula

Em estatística, a Hipótese Nula é a hipótese levantada com o objetivo de ser refutada com a finalidade de se aceitar uma Hipótese Alternativa. Quando utilizada, a hipótsese nula é presumida ser verdadeira até que evidência estatística na forma de um Teste de Hipótese indicar o contrário [wikipedia].

5.5.10. Análise de Variância - ANOVA

In statistics, analysis of variance (ANOVA) is a collection of statistical models and their associated procedures which compare means by splitting the overall observed variance into different parts. The initial techniques of the analysis of variance were pioneered by the statistician and geneticist R. A. Fisher in the 1920s and 1930s, and is sometimes known as Fisher's ANOVA or Fisher's analysis of variance, due to the use of Fisher's F-distribution as part of the test of statistical significance.

Este verbete foi baseado em parte na [wikipedia].

5.5.11. Teste F de Fisher

Um Teste-F é qualquer teste estatístico onde a estatística do teste possui uma distribuição-F se a hipótese nula for verdadeira. Uma grande variedade de hipóteses em Estatística Aplicada é testada através de testes-F. Os principais são:

A hipótese de que as médias de múltiplas populações distribuídas normalmente, todas apresentando o mesmo desvio padrão, são iguais. Esta é provavelmente a mais conhecida hipótese testada través de um teste-F e é o problema básico na Análise de Variância (ANOVA).
A hipótese de que os desvios padrão de duas populações são iguais e que conseqüentemente elas são de origem comparável.

Se é a igualdade de variâncias ou de desvios-padrão que está sendo testada, o teste-F é extremamente pouco robusto para distribuições diferentes da normalidade. Se os dados demonstram desvios da normalidade, mesmo que pequenos, desaconselha-se o uso do teste-F.

Entendendo o Significado do Valor de F calculado

Na análise de variância o teste F oferece, diretamente, a decisão sobre a diferença entre as médias. Não há mistério: O teste que compara variâncias é o teste F. Considere, então, o caso da análise de variância, imaginando-se três amostras (S_w1, S_w2 e S_w3) representadas em turquesa, amarelo e lilás na figura abaixo:

var1.gif (3024 bytes)

Cada amostra tem sua média (linha vertical pontilhada) e medida de dispersão (S_w1, S_w2 e S_w3), dada pelo seu desvio-padrão. Podemos imaginar que, tomando-se as três amostras conjuntamente, exista uma média geral, com sua respectiva medida de dispersão (S_B), dada pelo desvio-padrão global.

Caso a dispersão S_W (dentro dos grupos) seja mantida, mas as médias de cada amostra sejam mais distantes entre si, aumenta-se a dispersão entre os grupos, S_B como mostra a figura abaixo:

Como o teste F é dado por...

... onde S_W² é obtido por uma composição de S_w1, S_w2 e S_w3, se as médias são mais afastadas entre si, S_B e F (conseqüentemente) aumentam.

Mantendo-se as mesmas médias da figura 1, mas diminuindo-se a dispersão entre os grupos (S_w#), o que sofre maior redução é o denominador, S_W², o que também leva a um aumento do valor de F (figura 3).

Compare, agora, esta última figura com as figuras 2 e 3 e verifique porque o valor F é diferente neste caso do que em todos os anteriores. Observe que, grosseiramente falando, quanto menos sobreposição entre as amostras, mais provavelmente o teste indicará significância estatística. As distribuições abaixo estão bastante separadas e muito provavelmente indicam situações diferentes de um mesmo fenômeno.

Usando o valor de F gerado

Até agora aprendemos a calcular F para um determinado caso específico. Temos agora de entender como testamos a nossa hipótese para aceitar ou rejeitar a hipótese nula.

Uma das formas mais utilizadas é a da comparação do valor de F calculado para as amostras analisadas com uma tabela de valores críticos de F para um par de graus de liberdade. É a forma clássica de se fazer e m,uitos livros de estatística para áreas não-matemáticas como as ciências humanas, como é o caso do livro de Jack Levin e James Alan Fox da Bibliografia ainda o fazem assim. O curso de Exploratory Data Analysis do NIST/SEMATECH e-Handbook of Statistical Methods possui uma tabela fantástica que você pode consultar. Você pode acessar este livro em PDF aqui. Possuímos espelhos tanto do livro (11 MB) quanto apenas do capítulo de análise exploratória. Jack Levin também oferece uma em um anexo ao final do seu livroe fornece uma boa explicação de como usar essas tabelas:

Créditos

Este verbete foi baseado em parte na [wikipedia] e em parte em material da Disciplina de Métodos Quantitativos em Medicina sob responsabilidade do Prof. Dr. Eduardo Massad da Disciplina de Informática Médica e Telemedicina da Faculdade de Medicina da USP - DIM/FM/USP, principalmente alguns exemplos do material sobre Análise da Variância. Foi também consultado o livro de Jack Levin e James Alan Fox da Bibliografia. A Faculdade de Medicina da USP possui uma Planilha Excel que gera alguns dos dados e gráficos utilizados aqui. A DIM/USP comunica em um disclaimer que não se responsabiliza por alterações ou incorreções em material de ensino disponível online utilizado para preparo de novo material por terceiros.

5.5.12. Distribuição F de Fisher

F (x, d₁, d₂) =