3-3. 生成與線性獨立

Define Linear Combination

$V$ 為一佈於 $F$ 的向量空間, $S \subseteq V$, $S$ 中任意有限個向量 $\vec{v_1}$, ..., $\vec{v_k}$, $F$ 中任意有限個純量 $\alpha_1$, ..., $\alpha_k$, 稱 $\vec{v}$ = $\alpha_1 \vec{v_1}$ + ... + $\alpha_k \vec{v_k}$ 為 $S$ 之一線性組合(linear combination, LC)

Theorem of 行向量線性組合關係式

$A$, $B \in F^{m \times n}$, $A$ 列等價於 $B$, 則 $A$ 與 $B$ 之行向量線性組合關係式相同

$\because A$ 列等價於 $B \Rightarrow ker$($A$) = $ker$($B$)
$^{ex.} A = \begin{bmatrix} 1 & 2 & 3 & 4 \\ 1 & 3 & 4 & 0 \\ 1 & 4 & 5 & 5 \end{bmatrix}$ 列運算至 rref $U = \begin{bmatrix} \color{red}{1} & 0 & 1 & 0 \\ 0 & \color{red}{1} & 1 & 0 \\ 0 & 0 & 0 & \color{red}{1} \end{bmatrix}$, 其中 $U$ 的每個非 pivot 行皆可寫成 pivot 行(column $\downarrow$ with $\color{red}{1}$)的 LC

Define Span and Spanning Set

$V$ 為一佈於 $F$ 的向量空間, $S \subseteq V$, $span$($S$) = { $\vec{v}$ | $\vec{v}$ 為 $S$ 的一組 LC }, 稱為 $S$ 的生成空間(span);
若 $span$($S$) = $V$, 則稱 $S$ 生成 $V$($S$ spans $V$)或 $S$ 為 $V$ 的生成集(spanning set)

$^{ex.} R^2$:

• $span${($1$, $0$)} = { $x$($1$, $0$) | $x \in R$ } = { ($x$, $0$) | $x \in R$ } = $x$軸
• $span${($0$, $1$)} = { $y$($0$, $1$) | $y \in R$ } = { ($0$, $y$) | $y \in R$ } = $y$軸
• $span${($1$, $0$), ($0$, $1$)} = { $x$($1$, $0$) + $y$($0$, $1$) | $x$, $y \in R$ } = { ($x$, $y$) | $x$, $y \in R$ } = $R^2$

$\rightarrow span$($S$): set of all LC in $S$

Properties of Span

• $span$($\emptyset$) = { $\vec{0}$ }; $span$({ $\vec{0}$ }) = { $\vec{0}$ } as well
• $A \in F^{m \times n}$:
  • $CS$($A$) = $span${ $\vec{a_1}$, ..., $\vec{a_n}$ }, $\vec{a_x}$: $A$ 的行向量
  • $RS$($A$) = $span${ $A_1$, ..., $A_m$ }, $A_x$: $A$ 的列向量
• $span$($S$) 為 $V$ 的子空間

  $\because span$($S$) 補齊 $S$ 之封閉性

• $span$($S$) 為包含 $S$ 之最小子空間 $\Rightarrow$ 所有包含 $S$ 的子空間之交集
• $S$ is a subspace of $V \Leftrightarrow span$($S$) = $S$
• $S_1 \subseteq S_2 \Rightarrow span$($S_1$) $\subseteq span$($S_2$)

  but $\nLeftarrow$:
  $^{ex.} S_1$ = {($1$, $0$)} $\nsubseteq S_2$ = {($2$, $0$), ($0$, $1$)} $\Rightarrow span$($S_1$) = $x$軸 $\subseteq span$($S_2$) = $R^2$

• $span$($S_1 \cap S_2$) $\subseteq span$($S_1$) $\cap$ $span$($S_2$)
• $span$($S_1 \cup S_2$) $\supseteq span$($S_1$) $\cup$ $span$($S_2$)

Theorem of Sum of Spans

$V$ 為一佈於 $F$ 的向量空間, $S_1$, $S_2 \subseteq V$, 若 $W_1$ = $span$($S_1$), $W_2$ = $span$($S_2$), 則 $W_1$ + $W_2$ = $span$($S_1 \cup S_2$)

$^{ex.} S_1$ = {($1$, $0$)} $\Rightarrow W_1$ = $span${($1$, $0$)} = $x$軸; $S_2$ = {($0$, $1$)} $\Rightarrow W_2$ = $span${($0$, $1$)} = $y$軸
$\Rightarrow W_1$ + $W_2$ = $span${($1$, $0$), ($0$, $1$)} = $R^2$

Corollary of Sum of Spans

$V$ 為一佈於 $F$ 的向量空間, $\forall i$ = $1$, ..., $k$, $S_i \subseteq V$, 若 $W_i$ = $span$($S_i$), 則 $\displaystyle\sum_{i=1}^k W_i$ = $span$($S_1 \cup ... \cup S_k$)

Define Linear Dependent and Independent Sets

$V$ 為一佈於 $F$ 的向量空間, $S \subseteq V$, $\exists$ 有限個 $\vec{v_i} \subseteq S$, $i$ = $1$, ..., $k$

• $S$ 為線性相依集(linear dependent set, LD) $\Leftrightarrow$
  $\exists$ 有限個不全為 $0$ 的 $c_i \subseteq F$ s.t. $c_1 \vec{v_1}$ + ... + $c_k \vec{v_k}$ = $\vec{0}$

  $\exists \vec{v_i} \in S$ s.t. 該 $\vec{v_i}$ 可寫成其他 $\in S$ 的向量之 LC

• $S$ 為線性獨立集(linear independent set, LI) $\Leftrightarrow$
  $c_1 \vec{v_1}$ + ... + $c_k \vec{v_k}$ = $\vec{0} \Rightarrow c_1$ = $c_2$ = ... = $c_k$ = $0$

  $\forall \vec{v_i} \in S$ 皆無法寫成其他 $\in S$ 的向量之 LC

Properties of LD and LI

• $S_1 \subseteq S_2$,
  • $S_2$: LI $\Rightarrow S_1$: LI

    $S_2$: LI $\nLeftarrow S_1$: LI

  • $S_1$: LD $\Rightarrow S_2$: LD
• $\vec{0} \in S \Rightarrow S$: LD

  $\because c \vec{0}$ = $\vec{0}$, $c \in F$

• $\vec{v} \ne \vec{0} \Rightarrow$ { $\vec{v}$ }: LI

  $\because c \vec{v}$ = $\vec{0} \Rightarrow c$ = $0$

• $\emptyset$: LI
• { $\vec{u}$, $\vec{v}$ }: LD $\Leftrightarrow \vec{u}$ = $c \vec{v}$, or $\vec{v}$ = $c \vec{u}$, $c \in F$

Wronskian

$f_1$, $f_2$, ..., $f_n \in C^{(n-1)}$[$a$, $b$]: 在 [$a$, $b$] 上的 $n - 1$ 次可微分函數所成的集合(即函數向量空間)
定義 $W$($x$) = $\begin{vmatrix} f_1(x) & f_2(x) & \ldots & f_n(x) \\ f_1'(x) & f_2'(x) & \ldots & f_n'(x) \\ \vdots & \vdots & \ddots & \vdots \\ f_1^{(n-1)}(x) & f_2^{(n-1)}(x) & \ldots & f_n^{(n-1)}(x) \end{vmatrix}$
稱為 $f_1$, $f_2$, ..., $f_n$ 之 Wronskian

$^{ex.} f_1$($x$) = $2x^2$, $f_2$($x$) = $3x^3$, $W$($x$) = $\begin{vmatrix} 2x^2 & 3x^3 \\ 4x & 9x \end{vmatrix}$ = $6x^4$

Theorem of Wronskian

$f_1$, $f_2$, ..., $f_n \in C^{(n-1)}$[$a$, $b$], $\exists x_0 \in$[$a$, $b$] s.t. $W$($x_0$) $\ne 0 \Rightarrow f_1$, $f_2$, ..., $f_n$: LI

$\rightarrow$ 若 $W$($x$) = $0$, 未必保證 $f_1$, $f_2$, ..., $f_n$: LD

$^{ex.} f_1$($x$) = $x^2$, $f_2$($x$) = $x|x|$ on [$-1$, $1$] $\Rightarrow W$($x$) = $\begin{vmatrix} x^2 & x|x| \\ 2x & 2|x| \end{vmatrix}$ = $0$
但假設 $c_1 x^2$ + $c_2 x|x|$ = $0$ $\begin{cases} c_1 + c_2 = 0, & \text{if } x = 1 \\ c_1 - c_2 = 0, & \text{if } x = -1 \end{cases} \Rightarrow c_1$ = $c_2$ = $0$, $f_1$, $f_2$: LI
$\rightarrow$ 若定義域改成[$0$, $1$], 則 $f_1$, $f_2$: LD