Matrix Rank / Row Linear Dependence / λ = 0 / |A| = 0 / Size of Nullspace (Kernel)
1. Matrix RankPermalink
假定我们有一个 matrix
如果我们定义:
- “span” means “the set of all possible linear combinations”
那么
这里具体说一下数量限制:
- 你最理想的状态就是你的
个 rows 全部 linearly independent,那好,我直接把这个 个 rows 全部当做 basis,那么我的
- 你最理想的状态就是你的
- 理由同上
- 注意
(值域 image 是达域 codomain 的子空间,参 Terminology Recap: Functions) ,所以- 你可能要问:对于任意一个
,有 ,那么这所有的 构成的 space 为什么可能会有 dimension ?- 想象 3-D space 中的一个 plane,这个 plane 由一组
构成,但是 plane 的 dimension 为 2 - 我们把
写成 ,那么这所有的 都满足 ( 固定;plane 的定义)
- 想象 3-D space 中的一个 plane,这个 plane 由一组
- 换言之,
表示了 image 的 “有效维数”,而 image 的表示形式仍然是高维度的 codomain 的子空间
- 注意
- 综上,
2. Row Linear DependencePermalink
2.1 如果 Permalink
如果
所以,你
- 这个结论和
无关
另外:
说明 image 是 codomain 的低维度的子空间
2.2 如果 Permalink
如果
这
但一旦
3. 与 Permalink
首先 eigen 和 determinant 都是只对 square matrix 才有意义。下面我们假设
从 Eigen-decomposition 我们知道:eigenvalue 都满足:
若
根据 Digest of Essence of Linear Algebra 的说法:
进而
的 rows 存在 linearly depenedent 的情况 的 columns 也存在 linearly depenedent 的情况
那么 linearly dependent 的程度是多少呢?是 “1 个 row 可以写成其他
这个程度其实就是
4. Size of Nullspace (Kernel)Permalink
回忆 rank-nullity theorem:假设有 matrix
对于 square matrix
- 和
对应的
构成的子集 span 成的 space 就是
又因为 eigenvector 不存在 linearly independent 的情况,所以:
可以直接拿 做 basis
所以:
- 若
越小, 就越大(但最大大不过 ) - 亦即意味着
对应的 的数量越多, 的 basis 就越多
Comments