有限群線性表示正交性的證明有沒有更直接的理解方式？

01-21

查了幾本書，都是造了幾個矩陣的乘積，然後這個乘積滿足交換性，可以用舒爾引理。後面都好理解，就是矩陣乘積這裡我覺得好奇怪啊，到底是什麼動機讓先輩這麼做的？是不是有一些更加重要的概念被省略了所以才會顯得非常突兀？

我試著從代數幾何的角度給出一個直接的理解，這是我在MATHOVERFLOW上問的一個問題：

ag.algebraic geometry

然後，這是我自己後來搞清楚了，在知乎的一個回答：

有限群表示中的內積到底是什麼東西？ - 代數幾何

你可以不管這個回答

我的聲稱是你所看到的那個 $frac{1}{|G|}Sigma_{gin G}ar{chi(W,g)}chi(V,g)$ 實際上是計算inner product $dimHom_G(V,W)$ 的公式，而這個內積其實也不是什麼內積（你看到過這麼奇怪的內積嗎？）,這個東西實際上是歐拉示性數： $chi(V,W):=Sigma_{i}(-1)^i dimExt^i(V,W)$ 在quotient stack $[pt/G].$ 上的具體形式，只是因為群表示範疇是semisimple的，高階擴張全部是平凡的，也就是0，所以只有第一項。

好了，我為什麼說這個對群作用求平均值的東西是計算歐拉示性數的公式呢，哦，因為這就是Hizebruch Riemann Roch.

Hirzebruch

所以，舒爾正交性公式就歸結到 $dimHom_G(V,W)$ 的計算了，而下面的就是顯然的了，你這裡 $V,W$ 都是simple module（sheaf），直接由舒爾引理就得到結果了，也就是說不同構的話是0，同構的話是1.

我在剛才列出的知乎上的回答中引用的第一篇論文中的例子6.4 和定理7.7 說明了為什麼對群作用求平均值的這個玩意是陳類和todd class 乘積起來再積分，你這裡是有限群，對於compact group，這個求平均值就變成積分了。

去翻了一下Serre的書，發現裡面也是直接算的……

正如Andrew Shen的答案中所言，群表示論其實是研究群在線性空間的作用的。如果題主了解模的定義的話，更代數的看，一個表示也相當於給了線性空間上一個 $mathbb{Z}[G]$ -模的結構。（線性空間上有自然的 $mathbb{Z}$ -模結構（向量累加），所以我們只要定義 $G$ 中的元素怎麼「乘」在線性空間上就可以了，這就相當於 $G$ 在 $V$ 上的一個作用，也相當於 $G$ 到 $V$ 的可逆變換群 $GL(V)$ 的一個同態。）

有限群表示中經常地「對 $G$ 求和取平均」的目的其實可以這樣理解：我們一開始有一個映射 $varphi:V o W$ ，它已經是線性空間的線性映射了，可是對於兩個 $mathbb{Z}[G]$ -模（也就是表示） $V , W$ 而言，它們上面還分別有個 $G$ 的模結構，這個作用目前沒有辦法和 $varphi$ 產生任何聯繫。因此，我們通過「對 $G$ 求和取平均」的方式，使得「 $gcirc varphi=varphicirc g$ 」成立，這就使得 $varphi$ 不但成為線性映射，更是一個 $mathbb{Z}[G]$ -模同態（這時 $g$ 就像標量一樣可以自由進出同態 $varphi$ ，也就是 $g$ 作用的可交換性）。

而接著，在模的語言下，Schur引理其實說的是兩個不可約 $mathbb{Z}[G]$ -模之間的同態，要麼是同構，要麼是0。這樣看的話也就很好理解了，因為模同態的kernel和image都是子模，不可約要求它們的kernel和image都是平凡的。

我覺得題主可能是物理書看多了. 物理的群表示論喜歡用矩陣的語言去寫, 導致上下標亂飛, 不容易看明白背後的數學. 我最開始接觸有限群表示論時看的是這個 note, 用映射的語言, 顯得非常清晰. 這裡推薦給題主: http://math.berkeley.edu/~teleman/math/RepThry.pdf

在這裡針對題主的問題和評論我只扼要地說一些我自己的理解. 題主最好還是仔細讀一讀上面的 note.

群表示這個詞並不好. 群表示其實研究的是群在線性空間上的作用. 因此群 $G$ 在線性空間 $V$ 上的表示是一個群同態 $ho: G omathrm{GL}(V)$ . 兩個表示 $( ho_1,V_1)$ 和 $( ho_2,V_2)$ 等價, 則存在線性空間的同構 $phi:V_1 o V_2$ , 使得 $ho_2(g)=phicirc ho_1(g)circphi^{-1}$ 對所有 $gin G$ 成立. 容易看出這個定義和物理書上的矩陣語言是完全等價的: 矩陣即是線性變換在給定基下形式. 用物理的說法是在特定表象下的形式. 類似可以定義不可約表示等概念. 用映射寫看起來更抽象, 但我覺得圖像更清晰.
設 $( ho,V)$ 是群 $G$ 的一個表示. 如果 $V$ 有一個在群 $G$ 作用下不變的內積 $langle vmid w angle=langle ho(g)vmid ho(g)w angle$ 對所有的 $v,win V$ 和 $gin G$ 成立, 那麼這是一個幺正表示. 利用正交分解可以證明任何幺正表示都是完全可約的. 題主不清楚的"群元素求平均"其實就是定義了一個內積, 這叫 Weyl"s unitary trick: $langle vmid w angle$ . 它說的是從任何一個內積出發, 我們都可以通過對群元素求平均構造一個在群作用下不變的內積. 這樣就立刻證明了有限群復表示的完全可約定理. 這個 trick 還可以通過 Haar measure 直接推廣到緊群上去.
群表示論的目的是在等價表示的意義下給不可約表示分類. 最自然的想法便是構造數值不變數. 從線性代數中我們知道線性變換的特徵多項式的係數是不依賴於基的數值不變數. 特徵標就是特徵多項式次高階項的係數. 利用特徵標的正交性可以推論得到矩陣元的正交性. 題主說"特徵標是一個特例", 可能有點本末倒置.
題主所指的證明特徵標正交性時定義的矩陣乘積, 我想其實就是這樣一個映射: $phi_0=frac{1}{left|G ight|}sum_{gin G} ho_2(g)circphicirc ho_1(g)^{-1}$ . 形式上看這和 Weyl"s unitary trick 有異曲同工之處. 更深層次的動機我也不太明白.