GaussNewton method (비선형회귀분석)

소개

GaussNewton method (비선형회귀분석)에 대해 설명하고

주어진 함수에 따라 데이타들을 GaussNewton method로 Curve fitting 한다.

Matlab code 포함
일반적인 상황에 적용 가능하도록 모든 미지수들을 직접 입력하도록 하였으며 상세한 주석을 통하여 이해하기 쉽도록 짜놨습니다.

목차

1. Definition
2 Theory
3 Result
4 Discussion
5 Code

본문내용

1. Definition
다음 데이터를 고려해보자.

0.25
0.75
1.25
1.75
2.25

0.28
0.57
0.68
0.74
0.79

위 데이터를 다음 함수를 이용하여 나타내시오.


2. Theory

비선형회귀분석 Gauss-Newton method는 데이터와 비선형 방정식 간의 잔차의 제곱합을 최소화하는 알고리즘 중의 하나이다. 이 방법의 핵심은 Tayler급수를 이용해서 원래의 비선형 방정식을 선형으로 근사시켜 표현한다는 것이다. 그러면 잔차를 최소화하는 매개변수의 새로운 추정값을 얻는 데 최소 제곱 이론을 사용한다.

는 종속변수의 측정된 값이고 는 독립변수 의 함수인 방정식이다. 또한 이 함수는 매개변수 의 비선형함수이며, 는 임의의 오차이다. 간편하게 이 모델은 매개변수를 빼고 다음과 같이 약식으로 표현할 수 있다.
(1)
이 비선형 모델은 Tayler 급수에 의해 매개변수값 주변에서 전개될 수 있으며, 1차 도함수까지의 일부만 취한다. 예를 들면 두 개의 매개변수인 경우는 다음과 같다.
(2)
식(2)를 식(1)에 대입하면

이 때
또한 행렬식으로 나타내면 다음과 같다.
1. Discussion
허용오차를 0.1%로 했을 때, 총 4회의 연산 후 e_a0 = 0.0019, e_a1 = 0.0073의 오차율로 a0 = 0.7919, a1 = 1.6751를 얻을 수 있었다.

2. Code
nonlinear.m
clear all close all clc;

x=[0.25 0.75 1.25 1.75 2.25]
y=[0.28 0.57 0.68 0.74 0.79]

참고자료

· 없음