Adjustment of Observations in Geodesy: Statistical Fundamentals of Observations.

In geodetic measurements, repeated observations are commonly performed to reduce the influence of random errors. Statistical analysis allows the evaluation of data quality and the determination of the most reliable value. Understanding basic statistical measures is essential for the correct application of the Least Squares Method.

---

Lesson 03 – Statistical Fundamentals of Observations

---

Objectives

1. Understand the role of statistics in geodetic observations.
2. Compute the arithmetic mean of repeated measurements.
3. Understand the concept of dispersion.
4. Calculate variance and standard deviation.
5. Interpret precision based on statistical measures.

---

1. Role of Statistics in Geodesy

Since every measurement contains random errors, repeated observations of the same quantity will not produce identical values.

Statistical analysis allows us to:

• determine the most probable value,
• evaluate the dispersion of measurements,
• assess the precision of the observations.

The most probable value of repeated measurements is the arithmetic mean.

2. Arithmetic Mean

For n observations:

Where:

• L_i = observed values
• L̅ = mean value

The mean represents the best estimate of the true value when only random errors are present.

3. Residuals (Deviations)

The difference between each observation and the mean is called a deviation (or residual):

Properties:

Residuals indicate how each observation differs from the most probable value.

4. Variance

Variance measures the dispersion of the observations:

A smaller variance indicates higher precision.

5. Standard Deviation

The standard deviation is:

Interpretation:

• Small ( s ) → high precision
• Large ( s ) → low precision

Standard deviation is one of the most important quality indicators in geodetic measurements.

6. Standard Error of the Mean

The precision of the mean is given by:

This value represents the uncertainty of the estimated mean.

7. Solved Example

A distance was measured five times (m): 125.334; 125.338; 125.331; 125.336; 125.335.

Step 1 – Mean

Step 2 – Residuals

Observation	Residual (m)
125.334	-0.0008
125.338	0.0032
125.331	-0.0038
125.336	0.0012
125.335	0.0002

Step 3 – Variance

Step 4 – Standard deviation

Step 5 – Standard error of the mean

Final result:

8. Proposed Exercise

Repeated angle measurements (seconds): 32.418; 32.421; 32.416; 32.420.

Determine:

a) Mean

b) Standard deviation

c) Standard error of the mean

Answer

• Mean = 32.4188
• Standard deviation ≈ 0.0022
• Standard error ≈ 0.0011

9. Conclusion

Statistical analysis allows the determination of the most probable value and the evaluation of precision in repeated observations. The mean, variance, and standard deviation form the statistical foundation for the Least Squares Adjustment.

→Course Index←

Leia mais

Ajustamento de Observações Geodésicas: Construção da Matriz de Pesos.

A qualidade das observações em um ajustamento geodésico não é, em geral, uniforme, pois diferentes instrumentos, métodos e condições de medição produzem níveis distintos de precisão. Para levar essas diferenças em consideração, utiliza-se a matriz de pesos, que permite atribuir maior influência às observações mais precisas e menor influência às menos confiáveis. A correta construção dessa matriz é essencial para obter resultados estatisticamente consistentes no Método dos Mínimos Quadrados.

---

Aula 018 – Construção da Matriz de Pesos

---

Objetivos

1. Compreender o conceito de peso de uma observação.
2. Relacionar pesos com variância e precisão.
3. Construir a matriz de pesos a partir das variâncias.
4. Entender a relação entre matriz de pesos e matriz variância–covariância.
5. Aplicar o conceito em exemplos práticos de Geodésia.

1. Conceito de peso

No Método dos Mínimos Quadrados, cada observação recebe um peso proporcional à sua confiabilidade. Quanto maior a precisão da observação, maior deve ser seu peso.

O peso p_i é definido por:

Em que:

• σ_i² é a variância da observação.

2. Interpretação física

• Observação com pequeno desvio padrão → alta precisão → grande peso
• Observação com grande desvio padrão → baixa precisão → pequeno peso

Isso garante que observações mais confiáveis tenham maior influência no resultado do ajustamento.

3. Matriz de pesos

Para um conjunto de observações:

A matriz de pesos é:

Se as observações forem independentes, a matriz é diagonal.

4. Relação com a matriz variância–covariância

A matriz de pesos é a inversa da matriz variância–covariância:

Se existir correlação entre observações, (P) deixa de ser diagonal.

5. Pesos relativos

Em muitos casos, as variâncias absolutas não são conhecidas. Utilizam-se então pesos relativos.

Exemplo:

Se três observações têm precisões proporcionais a:

Então os pesos podem ser:

Os pesos são definidos em escala relativa, o que é suficiente para o ajustamento.

6. Aplicações em Geodésia

Exemplos típicos:

• Distâncias medidas com estação total e GNSS.
• Ângulos com diferentes números de repetições.
• Nivelamento com trechos de diferentes extensões.
• Integração de observações de diferentes instrumentos.

7. Exemplo Resolvido

Considere três observações com desvios padrão: σ₁ = 0,004 m; σ₂ = 0,006 m; σ₃ = 0,010 m.

Passo 1 – Variâncias

σ₁² = 0,000016

σ₂² = 0,000036

σ₃² = 0,000100

Passo 2 – Pesos

p₁ = 62.500

p₂ = 27.778

p₃ = 10.000

Passo 3 – Matriz de pesos

8. Exercício Proposto

Duas observações possuem: σ₁ = 0,005 m; σ₂ = 0,008 m.

8.1 Determine:

a) Os pesos individuais

b) A matriz de pesos

8.2 Resposta final espeerada

⇒Clique aqui⇐

9. Conclusão

A matriz de pesos permite considerar as diferentes precisões das observações no ajustamento. Sua construção adequada garante que observações mais confiáveis tenham maior influência, contribuindo para resultados mais precisos e estatisticamente consistentes.

⇾ Próxima Aula ⇽ → Todas as Aulas ←

Leia mais

Ajustamento de Observações Geodésicas: Covariância e Correlação entre Observações.

Em muitos levantamentos geodésicos, as observações não são completamente independentes, pois podem compartilhar fontes comuns de erro. Nessas situações, torna-se necessário analisar a covariância e a correlação entre medições. Compreender essas relações é fundamental para representar corretamente a matriz variância–covariância e garantir resultados confiáveis no ajustamento.

---

Aula 017 – Covariância e Correlação entre Observações

---

Objetivos da Aula

1. Compreender o conceito de covariância entre observações.
2. Entender o significado físico da correlação.
3. Interpretar a dependência estatística entre medições.
4. Relacionar covariância e correlação à matriz variância–covariância.
5. Avaliar o impacto da correlação no ajustamento geodésico.

---

1. Observações independentes e dependentes

Nas aulas anteriores consideramos, na maioria dos casos:

Isso significa que as observações são independentes.

Porém, em muitos levantamentos reais, as observações podem ser correlacionadas, ou seja, o erro de uma influencia o erro da outra.

2. Definição de Covariância

A covariância entre duas observações L_i e L_j é:

Interpretação:

• σ_ij > 0 → erros tendem a variar no mesmo sentido
• σ_ij < 0 → erros tendem a variar em sentidos opostos
• σ_ij = 0 → observações independentes

Na matriz variância–covariância:

Os termos fora da diagonal representam as covariâncias.

3. Coeficiente de Correlação

Para facilitar a interpretação, utiliza-se o coeficiente de correlação:

Em que:

Interpretação:

Valor de ρ	Significado
0	Sem correlação
Próximo de 1	Forte correlação positiva
Próximo de -1	Forte correlação negativa

4. Origem da correlação em Geodésia

A correlação surge quando observações compartilham fontes de erro.

Exemplos

• Observações feitas na mesma estação
• Séries GNSS processadas conjuntamente
• Nivelamento com o mesmo erro instrumental acumulado
• Direções medidas a partir de um mesmo círculo horizontal

Nestes casos, assumir independência pode levar a resultados incorretos.

5. Representação na matriz variância–covariância

Se duas observações possuem correlação:

Exemplo:

Essa matriz é:

• simétrica
• positiva definida (se fisicamente consistente)

6. Consequências no Ajustamento

Se houver correlação:

• A matriz de pesos não é diagonal
• Deve-se usar:

Ignorar correlações pode causar:

• subestimação ou superestimação das precisões
• distorção nas variâncias das incógnitas
• interpretação incorreta da qualidade da rede

7. Exemplo Resolvido

Duas observações possuem: σ₁ = 0,005 m; σ₂ = 0,004 m; σ₁₂ = 0,000010. Calcular o coeficiente de correlação.

• Passo 1

• Passo 2

7.1 Interpretação

Existe correlação positiva moderada entre as observações.

8. Exemplo Proposto

Dados: σ₁ = 0,006 m; σ₂ = 0,005 m; σ₁₂ = -0,000015. Calcule o coeficiente de correlação.

8.1 Resposta esperada

⇒Clique aqui⇐

9. Conclusão

A covariância e o coeficiente de correlação descrevem a dependência entre observações. Considerar corretamente essas relações é essencial para modelar a matriz variância–covariância e obter resultados confiáveis no ajustamento geodésico.

⇾ Próxima Aula ⇽ → Todas as Aulas ←

Leia mais

Adjustment of Observations in Geodesy: Types of Errors in Geodetic Observations.

This free course on Adjustment of Observations and Least Squares is designed for students and professionals in Geodesy, Surveying, and Geomatics. Each lesson includes theoretical explanations, solved examples, and practical exercises.

---

Lesson 02 – Types of Errors in Geodetic Observations

---

Objectives

1. Understand the different types of errors present in geodetic measurements.
2. Distinguish between systematic, random, and gross errors.
3. Identify the origin and behavior of each type of error.
4. Recognize the importance of error classification in the adjustment process.

---

1. Introduction

Every geodetic observation contains errors. Since the true value of a measured quantity is unknown, it is essential to understand the nature of these errors in order to control, model, or minimize their effects.

Errors in geodetic measurements are generally classified into three main categories:

• Systematic errors.
• Random errors.
• Gross errors.

This classification is fundamental for the proper application of the Least Squares Method.

2. Systematic Errors

Systematic errors follow a predictable pattern and affect measurements in a consistent way.

2.1 Characteristics

• Same sign and similar magnitude under the same conditions.
• Caused by identifiable physical or instrumental factors.
• Can be modeled and corrected.

2.2 Examples

• Instrument calibration errors.
• Temperature effects on distance measurements.
• Atmospheric refraction.
• Scale factor errors.
• Incorrect prism constant.

2.3 Treatment

Systematic errors should be:

• eliminated through calibration, or
• modeled mathematically in the functional model.

If not treated, they affect the accuracy of the results.

3. Random Errors

Random errors are small variations caused by unpredictable factors.

3.1 Characteristics

• Irregular in magnitude and sign.
• Follow a normal (Gaussian) distribution.
• Mean value approximately equal to zero.
• Cannot be eliminated individually.

3.2 Sources

• Instrument noise.
• Environmental variations.
• Operator limitations.
• Small atmospheric fluctuations.

3.3 Treatment

Random errors are reduced by:

• Repeated observations.
• Redundancy.
• Least Squares Adjustment.

They affect the precision of the measurements.

4. Gross Errors

Gross errors are large mistakes caused by human or operational failures.

4.1 Examples

• Reading the wrong value.
• Data entry mistakes.
• Instrument misleveling.
• Loss of GNSS signal.
• Measuring the wrong point.

4.2 Characteristics

• Much larger than random errors
• Do not follow statistical behavior
• Cannot be corrected mathematically

4.3 Treatment

Gross errors must be:

• detected, and
• removed before or during adjustment.

They are usually identified through:

• residual analysis
• statistical tests
• consistency checks.

5. Importance for Adjustment of Observations

The Least Squares Method assumes that:

• systematic errors have been removed or modeled
• gross errors are absent
• remaining errors are random and normally distributed

If gross or systematic errors remain, the adjustment results may be unreliable.

6. Solved Example

A distance was measured five times (m): 152.334; 152.331; 152.336; 152.333; 152.335.

The values show small variations around the mean and no extreme values.

6.1 Interpretation:

• Errors are small and irregular.
• Behavior is consistent with random errors.
• Data are suitable for adjustment.

7. Proposed Example

Angle observations (seconds): 30.124; 30.118; 30.121; 30.950

7.1 Interpretation:

The value 30.950 is significantly different from the others and should be considered a gross error and investigated before adjustment.

8. Conclusion

Geodetic observations are affected by systematic, random, and gross errors. Correct identification and treatment of these errors are essential to ensure reliable and accurate results in the adjustment process.

→Course Index←

Leia mais

Ajustamento de Observações Geodésicas: Propriedades das Matrizes Simétricas e Positivas Definidas.

---

Aula 016 – Propriedades das Matrizes Simétricas e Positivas Definidas

---

Objetivos da Aula

1. Entender o conceito de matriz simétrica.
2. Compreender o que é uma matriz positiva definida.
3. Reconhecer a importância dessas propriedades no Método dos Mínimos Quadrados.
4. Relacionar essas características à estabilidade do ajustamento geodésico.

---

1. Matrizes no Ajustamento de Observações

No Método dos Mínimos Quadrados aparecem matrizes fundamentais:

• Matriz variância–covariância: ∑
• Matriz de pesos: P
• Matriz normal: N = A^TPA

Todas elas possuem duas propriedades essenciais:

• Simetria.
• Positividade definida.

Essas propriedades garantem que o problema tenha solução única e estável.

2. Matriz Simétrica

Uma matriz é simétrica quando:

Ou seja:

Exemplo

2.1 Importância em Geodésia

São simétricas:

• Matrizes de covariância.
• Matrizes de pesos.
• Matrizes normais.

Isso reduz o esforço computacional e garante propriedades matemáticas importantes.

3. Forma Quadrática

Considere um vetor não nulo (x). A expressão:

É chamada de forma quadrática. O sinal dessa expressão define o tipo da matriz.

4. Matriz Positiva Definida

Uma matriz simétrica é positiva definida se:

Para todo vetor x ≠ 0.

4.1 Interpretação física

No contexto do ajustamento:

• Representa energia ou variância positiva.
• Garante que não existem soluções ambíguas.
• Assegura mínimo único na função dos mínimos quadrados.

5. Relação com o Método dos Mínimos Quadrados

A função minimizada é:

Se (P) é positiva definida:

• Φ > 0
• O mínimo é único

Além disso:

Também é simétrica e positiva definida, garantindo: N^-1.

Sem isso, o ajustamento não pode ser resolvido.

6. Condições para Positividade Definida

Uma matriz é positiva definida quando:

1. É simétrica.
2. Todos os seus autovalores são positivos.
3. Seus menores principais são positivos.

Na prática geodésica, isso ocorre quando:

• Há redundância suficiente.
• Não existe dependência linear entre observações.

7. Exemplo Resolvido

Considere:

• Passo 1 – Verificar simetria.

Simétrica ✔️.

• Passo 2 – Verificar menores principais.

Positiva definida ✔️.

7.1 Interpretação

Uma matriz normal com essa estrutura garante solução única no ajustamento.

8. Exemplo Proposto

Verifique se a matriz é positiva definida:

8.1 Resposta final esperada

⇒Clique aqui⇐

9. Conclusão

Matrizes simétricas e positivas definidas são fundamentais no Método dos Mínimos Quadrados. Elas garantem estabilidade numérica, existência da inversa da matriz normal e unicidade da solução no ajustamento geodésico.

⇾ Próxima Aula ⇽ → Todas as Aulas ←

Leia mais

Ajustamento de Observações Geodésicas: Introdução à Matriz Variância–Covariância.

A partir desta aula iniciamos o bloco mais importante para a formulação matricial do Ajustamento de Observações. A matriz variância–covariância é a base para: construção da matriz de pesos (P), propagação de incertezas, precisão das coordenadas ajustadas, elipses de erro, análise de confiabilidade.

Aula 015 – Introdução à Matriz Variância–Covariância

---

Objetivos da Aula

1. Compreender o conceito de variância em forma matricial.
2. Entender o que é covariância entre observações.
3. Construir a matriz variância–covariância das observações.
4. Interpretar o significado físico dos elementos da matriz.
5. Preparar o caminho para a matriz de pesos (P).

---

1. Variância em forma escalar

Até agora trabalhamos com uma observação:

Para várias observações independentes:

Cada uma possui sua variância:

Para organizar isso de forma sistemática, usamos uma matriz.

2. Covariância entre observações

A covariância mede o grau de dependência entre duas observações:

Interpretação:

Covariância	Significado
σij = 0	Observações independentes
σij > 0	Tendem a variar no mesmo sentido
σij < 0	Tendem a variar em sentidos opostos

Na maioria dos levantamentos de campo, assume-se inicialmente:

3. Definição da Matriz Variância–Covariância

A matriz é definida como:

Em que:

• Diagonal → variâncias
• Fora da diagonal → covariâncias

4. Caso mais comum em Geodésia

Se as observações são independentes: Matriz diagonal.

Exemplo típico:

• Distâncias medidas independentemente.
• Ângulos medidos separadamente.
• Observações GNSS de sessões independentes.

5. Interpretação física

A matriz variância–covariância representa:

• A qualidade das observações.
• A confiança estatística em cada medida.
• A estrutura de dependência entre elas.

Ela é o equivalente matricial do conceito de precisão.

6. Relação com a matriz de pesos

A matriz de pesos é:

Ou seja:

• Variância grande → peso pequeno
• Variância pequena → peso grande

Se a matriz é diagonal:

7. Exemplo Resolvido

Um levantamento possui três observações independentes:

• Distância 1: σ₁ = 0,005 m
• Distância 2: σ₂ = 0,010 m
• Distância 3: σ₃ = 0,020 m

7.1 Passo 1 – Variâncias

7.2 Passo 2 – Matriz variância–covariância

7.3 Passo 3 – Matriz de pesos

7.4 Interpretação

A primeira observação é a mais precisa → maior peso.

8. Exemplo Proposto

Quatro observações independentes apresentam:

• σ₁ = 0,004 m
• σ₂ = 0,006 m
• σ₃ = 0,010 m
• σ₄ = 0,020 m

8.1 Determine:

a) A matriz variância–covariância Σ_L

b) A matriz de pesos P

8.2 Resposta Final Esperada

⇒Clique aqui⇐

9. Conclusão da Aula

• A matriz variância–covariância descreve completamente a precisão das observações.
• Os termos diagonais são variâncias; os demais são covariâncias.
• Para observações independentes, a matriz é diagonal.
• A matriz de pesos é o inverso da matriz variância–covariância.
• Este conceito é fundamental para o Método dos Mínimos Quadrados.

⇾ Próxima Aula ⇽ → Todas as Aulas ←

Leia mais