如何理解函數可以看成是一個無限維的向量？

01-21

請找出一組有限基

向量的傳統定義：「有大小，方向的量」，該定義在2-3維有著直觀的物理意義，但是在更高維度就難以想像了。

進一步抽象其「大小」（範數）「方向」（角度）並進行規定就是線性代數中各種空間（賦范空間，內積空間，歐幾里得空間）的分劃。也就是說，近代數學通常通過集合的觀點來做定義，先定義向量空間，再定義向量為其中的成員。

公理化的定義在各種線性代數書里都可以找到，這裡直接引用https://zh.wikipedia.org/wiki/%E5%90%91%E9%87%8F%E7%A9%BA%E9%97%B4 ：

給定域F，F上的向量空間V是一個集合，其上定義了兩種二元運算：
向量加法： + : V × V → V，把V中的兩個元素 u 和 v 映射到V中另一個元素，記作 u + v；
標量乘法： · : F × V → V，把F中的一個元素 a 和 V 中的一個元素u變為V中的另一個元素，記作 a ·u。
V中的元素稱為向量，相對地，F中的元素稱為標量。而V裝備的兩個運算滿足下面的公理（對F中的任意元素a、b以及V中的任意元素u、v、w都成立）：
1.向量加法結合律：u + (v + w) = (u + v) + w,
2.向量加法交換律：u + v = v + u，
3.存在向量加法的單位元：V里存在一個叫做零向量的元素，記作0，使得對任意u ∈ V，都有u + 0 = u，
4.向量加法的逆元素：對任意u ∈ V，都存在v ∈ V,使得u + v = 0。
5.標量乘法對向量加法滿足分配律：a · (v + w) = a ·v + a ·w.
6.標量乘法對域加法滿足分配律：(a + b) ·v = a ·v + b ·v.

7.標量乘法與標量的域乘法相容：a(b ·v) = (ab) ·v.
8.標量乘法有單位元：域F的乘法單位元「1」滿足：對任意v，1 ·v = v。

把我們所說的函數套進去，均成立：

1.f(x)+[g(x)+h(x)]=[f(x)+g(x)]+h(x)

2.f(x)+g(x)=g(x)+f(x)

3.存在0(x)，使0(x)+f(x)=f(x),0(x)為常值0函數

4.存在g(x)=-f(x)，使得f(x)+g(x)=0

5.a*[f(x)+g(x)]=a*f(x)+a*g(x)

6.(a+b)*f(x)=a*f(x)+b*f(x)

7.a*[b*f(x)]=(a*b)*f(x)

8.1*f(x)=f(x)

再來聊一下怎麼定義函數內積。傳統定義：

兩個向量 ${displaystyle {vec {a}}} = [a_{1}, a_{2},.., a_{n}],{displaystyle {vec {b}}} = [b_{1}, b_{2},..., b_{n}]$ 的點積定義為:
${displaystyle {vec {a}}cdot {vec {b}}=sum _{i=1}^{n}a_{i}b_{i}=a_{1}b_{1}+a_{2}b_{2}+cdots +a_{n}b_{n}}$

其中n為正整數（1，2，3，...）

但是函數是連續的呀兄弟，你之前每隔1維求一次和，函數則要每隔無窮小的dx維就求一次和，然後再相加，沒錯，積分：

${displaystyle <f(x),g(x)> ,{stackrel {mathrm {def} }{=}} int _{mathbb {R}}f(x)g(x),dx }$

令dx=1（高數老師不要打我。。），把積分號改成求和符號就是和傳統定義吻合了，注意R為定義域，視情況而定。

其實內積也都可以瞎求定，這只是我們常用的歐式空間的定義。

考慮 $V$ 是一個 $n$ 維向量空間， $phi:V ightarrow mathbb{R}$ 是 $V$ 上的一個函數（線性泛函），我們可以證明對於任意這樣的函數 $phi$ ，存在唯一的 $uin V$ ,使得 $phi(v)=<v,u>$ ,後者是 $v,u$ 的內積。

為何呢？取 $e_1,cdots,e_n$ 作為 $V$ 的基，只要取 $u=(u_1,cdots,u_n)$ ,其中 $u_j = phi(e_j)$ 就可以了。

這說明有限維空間上的任何映到 $mathbb{R}$ 上的映射實際上可以看成該空間上的一個向量。

注意到 $V$ 上的維度只有有限個。從另一個角度來說，只要 $phi(e_1),cdots,phi(e_n)$ 這 $n$ 個數，就完全可以確定一個 $V$ 上的函數 $phi$ 了。我們可以直觀的理解為 $V$ 上的函數有 $n$ 個自由度，或是說是 $n$ 維的。

現在把思路擴展到無限維空間上去。

對 $mathbb{R}$ 上某個區間 $[a,b]$ （當然，也可以是任何點集）定義的任何實值函數 $phi$ ，很直觀的事實是，任何有限個數字都不可能完全確定 $phi$ ; 也就是說， $phi$ 必然是無窮維的。一個最trivial的想法就是， $phi$ 可以由 ${xin[a,b]:f(x)}$ 這個集合來確定；而這個集合元素的數量和 $[a,b]$ 中的點的數量是相同的，即不可數多個。這是不能令人滿意。

一個自然的想法就是將有限維空間的某些定義和性質擴展到無限維向量空間，即函數空間上去。對於性質較好的平方可積函數而言，我們可以把兩個函數的乘積在區間上的積分看作是兩個函數的內積，並在此基礎上擴展正交性等等的定義，然後以此來選取一組標準正交基。這就是傅里葉級數，其出發點和有限維空間的性質是一脈相承的。我們知道，任意一個平方可積的函數有一個唯一的傅里葉級數展開，且部分和均方收斂到這個函數。由封閉公式，我們可以把這個函數的傅里葉係數表示成一個無窮維向量；這個向量和函數是一一對應的。這和有限維空間上的情形十分類似。

當然，在擴展至無限維空間上的過程中會出現諸多的問題，並不是所有的有線維空間的很好的性質都可以直接推廣到無限維情形上的。

Any vector y in ${R}^{p}$ can be viewed as a 「discrete function」 on the unit interval [0, 1]
after plotting its entries at equidistant points $egin{Bmatrix} {x}_{p}=p/P end{Bmatrix}_{P}^{p=1}$ on the x-axis, as pairs
$egin{Bmatrix} left({x}_{p}, {y}_{p} ight) end{Bmatrix}_{P}^{p=1}$
For larger values of P the collection of points $left({x}_{p}, {y}_{p} ight)$ closely resembles the continuous function y (x).
---Machine Learning Refined - Foundations, Algorithms and Applications (2016)

這個引用簡而言之就是說，任意向量y都可以被看成在[0，1]單位區間內的離散函數，為什麼呢？假設y是個維度為P的向量，每一維由標量x1, x2, ..., xp表示。把y全畫在x軸上怎麼表示呢？可以在x軸上[0，1]單位區間內等分成P個點，每個點的值就是對應的標量x1, x2, ..., xp的值。那當P很大時，即y是個有無限維度的向量，就相當於在x軸上[0，1]單位區間內等分成無數個點，這樣畫出來的各個點的值就是連續的了。這不就是連續的函數嗎？所以向量可以看成離散函數，而連續函數可以看成無限維的向量。

我今天也遇到了這個問題，我是這麼想的，不知道對不對，求糾正

向量x=[1,2,3,4,5]，x1=1，x2=2。。。。

函數f(x)=x，f(1)=1，f(2)=2。。。。

為什麼說函數是無限維的呢？

因為函數是連續的，他還有

f(1.1)=1.1，f(2.2)=2.2。。。。