hyeonzzz's Tech Blog

[인공지능을 위한 선형대수] 2. 선형시스템 및 선형변환 - 선형독립과 선형종속 본문

Mathematics/Linear Algebra

[인공지능을 위한 선형대수] 2. 선형시스템 및 선형변환 - 선형독립과 선형종속

hyeonzzz 2024. 3. 25. 16:54

선형독립과 선형종속

b가 span 안에 속할 때 해가 존재한다

 

벡터들의 적절한 길이를 찾아서 만들어진 평행사변형의 꼭짓점이 b가 되도록 한다

그 값들을 찾는다

해가 여러개 존재한다는 것은 평행사변형을 여러개 만들 수 있다는 것이다 -> 선형 의존

(새로운 벡터가 이미 존재하는 span 위에 있는 경우)

해가 하나만 존재한다 -> 선형 독립

 

p개의 벡터들을 j=1부터 p까지 돌린다. 전에 벡터들로 만들어진 span에 새로운 벡터가 포함되는지 아니면 공간을 늘려주는지 확인한다.

p개의 벡터가 모두 공간을 늘려준다 -> 선형 독립

span에 포함되는 벡터가 있다 -> 선형 의존

 

3차원 공간에 4개의 벡터가 주어지면 4개 벡터들은 기본적으로 선형 의존이다. 

왜?

3개의 벡터만으로도 3차원 공간을 다 커버하기 때문에!

 

v1과 v2만으로 평행사변형을 만들면 0.6 1.2 0 이 된다

v1과 v3만으로 평행사변형을 만들면 1.1 0 0.3 이 된다

이처럼 여러 경우가 있으면 해가 여러개가 된다

 

A : 재료벡터 (3차원)

4개가 주어졌다. 이 경우 선형 의존이 된다.

미지수의 개수보다 방정식의 개수가 적으면 해가 무수히 많이 존재한다.

 

이 경우는 해가 무수히 많은지 하나인지 알 수 없다.

두 벡터의 span안에 들어와서 해가 하나 이상은 존재하지만 두 벡터가 선형 독립인지 의존인지에 따라 해의 수가 달라진다. 첫번째 벡터의 span에 두번째 벡터가 포함되어 선형 의존이면 해가 많이 존재하게 된다. 이렇게 되려면 두번째 벡터가 첫번째 벡터의 상수배여야 한다. 

 

target 벡터값이 다 0인 방정식을 homogeneous equation이라고 부른다

b가 벡터안에 포함되어 있을때 해가 하나일지 여러개일지 생각해보면 0벡터인 b는 어떤 벡터의 span에도 무조건 포함된다. 어떤 벡터이든 계수가 0이면 0벡터이기 때문이다. 이 솔루션을 trivial solution이라고 부른다.

계수가 0인것 이외에 다른 해가 존재한다면 선형 의존이라고 부른다. 

 

0벡터는 평행사변형 관점에서 누군가 0이 아니라는 이야기는 다시 원점으로 돌아올수 있도록 하는 벡터인 것이다.

첫번째 벡터가 [3, 6]이라면 나머지 벡터들이 모여 [-3, -6]이 되어야 한다. 

 

누가 계수가 0이고 0이 아닐까?

1, 2, 4가 0이 아니고 3, 5는 0이어도 되는 상황일때 마지막 non-zero인 4번째 벡터를 생각해보자.

4번째 벡터만 왼쪽에 두고 나머지 non-zero 벡터들을 오른쪽으로 넘기면 v4가 v1과 v2의 선형결합으로 표현될 수 있다. 

 

두 벡터로 만들어진 span 안에 새 벡터가 포함된다면 linearly dependent 하다!

 

b가 0이 아닐때에도 solution이 존재한다면 무조건 여러개의 solution이 존재한다.

v3가 v1과 v2의 선형결합으로 표현된다면 span을 늘려주지 못한다는 의미이다. 

 

v3 = 2v1 + 3v2 를 2v1 + 3v2 - v3 = 0 으로 표현하면 homogeneous equation 형태가 되고 벡터는 원점으로 돌아온다.

2, 3, -1 을 현재 존재하는 3, 2, 1이라는 solution에 적절히 더해주면 여전히 같은 b를 만들어 낼것이다. 따라서 solution이 무수히 많이 존재한다.

 

solution이 존재할 때 언제 solution이 unique 할까?

평행사변형이 유일하게 하나만 그려져서 꼭짓점을 만족할 때.

그 경우는 linearly independent한 경우이다.