表示論都在做什麼？幾何表示論是什麼？

12-19

第一個問題。之前粗淺地看過一丁點，比如說gtm9,42,拓撲群引論。對表示論的概念僅存在於，「代數結構到集合自同構群的同態，從而能利用這個集合來研究這個代數結構」的層面。但是總感覺還是不知道在幹什麼（相比之下我對幾何多少還是知道點我們在做什麼，可以幹什麼，希望幹什麼的）。之前看過知乎上一個答案說，代數複雜是因為裡面有幾何的結構，還蠻有感觸。恰逢以後多少要決定一個方向，有所側重的時候，所以想聽大家扯扯（其實感覺知乎上能扯這個的也沒幾個個人，大家也認識，就麻煩各位了*(^o^)/* ）。
第二，之前跟一個hkust的老師聊過，說其實他們也用到很多幾何，加上我自己對幾何還是蠻喜歡，所以就還是想聽人講一下幾何表示是個啥。感覺這個問題蕭瑟姐回答最合適啦，既然你都微博上給我點贊了，就請不吝賜教了哈哈，謝謝！

順便也當給知乎表示論這塊留點好東西，謝謝大家，撒花!

謝邀，被點名了那必須好好答，不過我的水平還不能夠對整個學科整個方向給個general的描述，自己的理解什麼的也很有限，儘力而已，大家有問題可以問，我儘力。。。

關於表示論
忘記是哪本書上看到的說：表示論的思想是把不熟悉的數學表示成熟悉的東西。不過具體實現，就是題主說的到所有自同構的同態。比較系統的表示論理論大體有三塊：群表示（gtm42，Serre的書是個很好的參考另有Etingof的一個lecture notes，http://ocw.mit.edu/courses/mathematics/18-712-introduction-to-representation-theory-fall-2010/lecture-notes/MIT18_712F10_replect.pdf）、李代數的表示（gtm9，Humphreys是很好的參考書）、結合代數的表示，或者說quiver的表示（參考書隨便附個鏈接，但是書是這本Elements of the Representation Theory of Associative Algebras Techniques of Representation Theory）。這幾本書都是本科基礎可以讀的。
群的表示是表示論最初的結果，也是相對而言最完整的理論，最初量子力學裡對夸克的分類就是通過群SU(3)只有三個不同的不可約三維表示得到的，這也是表示論最初的動機和起源。有限群的表示是有完全分類的，結果也很漂亮。
李群也是群的一部分，並且因為有拓撲結構，有限群的結果可以擴展到緊李群。李群在單位元處的切空間定義了李代數，李代數也是研究非交換代數，非交換幾何的重要手段之一（李代數研究的就是交換子，交換子不為零等價於非交換）。因此李理論在表示論中，以及在整個數學中，也很重要。多說一句，李代數的理論對有限維半單李代數有比較好的結果。
然後說結合代數，學過抽象代數的話會知道，結合代數比環只多了數乘結構，而在有加法的情況下數乘是很容易定義的，因此結合代數的表示幾乎等價於環上的模，模論在抽象代數中的重要性大家懂的，因此結合代數的表示論也就很重要。另外群代數是結合代數的一種，因此群表示可以算是囊括在結合代數表示里的，不過群表示有更簡便的研究方法，所以一般也不會用quiver去研究群表示。
以上是很基礎的表示論框架，如果要讀這個方向的研究生的話，以上相關知識應該在研究生第一二年內甚至更早完全掌握，而後才能接觸比較新的研究。

關於幾何表示論
所謂幾何表示論就是用幾何手段研究表示論問題（其實還是代數用得更多）。具體一點的話（這是我老闆說的，不敢隨便盜版權，說錯了也不是我負責嗯）：把某些對象上的表示等價於某幾何對象的同調上同調或者K-理論。以下介紹幾個最近比較熱的工具或者方向（想起來再補充或者修改）。
1. Springer theory
這個應該是最早的（好吧其實是我沒有聽說過更早的），參考書的話，華麗麗的介紹幾何表示論的入門書：Chriss Ginzberg, Representation Theory and Complex Geometry。
有個很重要的研究對象叫（n維）flag variety設為F，考慮G=GL(n)在其上的作用，得到一個homogenous space，F=G/B，B是Borel subgroup。另一方面，取定G對應的李代數g里的一個Borel subalgbra，b，考慮G在g上的adjoint action，可以得到F同構於g的所有Borel subalgbras組成的variety（按照定義是Grassmannian的一個subvariety）。取N為g中所有冪零元，N"為N*F的子集，其中元素（x,b）滿足x屬於b。N"稱為nilpotent cone。從N『到N的投影是個resolution of singularity，稱Springer resolution。這裡插一句N"事實上也同構於F上的cotangent bundle，因此有辛結構，然後從這裡還能講一大篇故事，後面會再提到。最後N"和N"在N上做fiber product得到的東西叫Steinberg variety。神奇的事情來了：Steinberg variety上的（Borel-Moore）homology同構於g（或者說G）的Weyl group的群代數。於是Weyl group的表示論就被放到幾何中了。上述中的李群G可以用任何有限維緊李群代替，都有類似的結果。
2. D-modules
根據Etingof的課，（lecture notes可以在Etingof的主頁找到）D-modules最初出現的動機是純分析問題，關於函數的解析延拓，後來發現這種問題可以轉化成純代數問題，考慮某個variety上所有differential operators組成的algebra/ring上的模論，也就是其表示論。事實上每個D-module都是某個微分方程（組）的所有解組成的，所以D-modules的理論跟微分方程有一定聯繫。
另一方面，某個variety上所有differential operators組成的環是該variety的coordinate ring的一個量子化，因此D-modules的理論在deformation/quantization的研究中也相當重要。
3. Hall algebras
這個是把quivers和Lie algebras聯繫起來的一個理論，了解quivers和Lie algebras的話會知道二者的分類都是用Dynkin diagrams，那麼同一個Dynkin diagram對應的quiver的loop algebra和李代數之間也應該有聯繫。
Ringel對給定quiver構造了Hall algebra，並且證明了其同構於對應李代數（的Borel subalgebra）的量子群。而後Lusztig用perverse sheaves定義了Hall category，是Hall algebra的（弱）範疇化，也是著名的Lusztig』s geometric construction of canonical bases（據Zelevinsky和Fomin說這是他們定義cluster algebra的最初動機）。
4. Nakajima quiver varieties
這是從quiver構造李代數的另一種方式（構造過程用到了同調），比Hall algebra更神奇的是這種方式還給出了李代數的最高權表示的構造。這是Nakajima最初定義這個東西的動機，後來大家發現這個東西神奇之處遠非如此而已。比如構造中用到了doubled quiver，對應的moduli space of representations就產生了cotangent bundle的結構，進而有辛結構。構造中同樣用到了GIT quotient，從GIT quotient到geometric quotient有滿射，可以證明在Nakajima的構造中GIT quotient是光滑的。因此Nakajima quiver varieties提供了symplectic resolutions中很重要的一類例子。很多做幾何的人也很關心symplectic resolutions的性質，所以Nakajima quiver varieties的研究現在很熱門。
5. categorification
把一個代數進行範疇化有兩種方式：a.構造一個範疇，然後該範疇的K理論是原來的代數；b.Grothendieck sheaf-to-function correspondence。方式a適用範圍更廣，方式b更容易構造，但是如果方式b適用，應該跟a得到等價的範疇。
其中比較特別的一類，是李代數表示的範疇化，也叫categorical Kac-Moody action，除了上面說的之外還有其他條件要滿足，好處是可以引入Hecke algebra及其表示，進而利用相關的結果。這也是目前關於範疇化的研究中最活躍的部分，比較漂亮的結果就是KLR algebras（Khovanov-Lauda-Rouquier），也叫quiver Hecke algebras。
6. Langlands program
好吧這個我不懂，一直停留在被科普階段，每次被科普都先科普物理，但是我不懂物理，所以聽著聽著就聽不下去了。

寫得很倉促，又很長，各種疏漏敬請指正。

既然一樓已經給出了第二個問題的概括性回答（某些歸類可能存在問題），況且幾何表示論恰恰是我不太熟悉，而且也不專門搞的領域，所以對這個問題只作補充。
然而要回答第一個問題，就算按照一個提綱挈領的標準來要求的話，恐怕寫上幾十頁也是寫不完的。數學在上個世紀有了爆炸性的發展，以至於像「表示論」這樣的三級學科都幾乎不存在「通才」的概念了，所以首先要注意到這個問題。
以下內容遵循三個原則：
1.在wiki等ency上可以很容易找到答案的，統統不寫或一帶而過；樓上提到的，不多作重複。
2.我熟悉的比較有把握東西，會多啰嗦幾句；不熟悉的東西，會按照自己的理解去描述，但僅僅是漫談性質，不能保證絕對準確，讀者可以通過日後的學習加以鑒別。
3.本人也僅僅是學生，希望存疑的地方能夠共同討論。
1. 什麼是表示論？
想必各位已經看到過為數眾多的「一句話講清楚XXX」問題了，那麼我只能說，這個問題不屬於這類範疇。一個比較恰當的回答可能是，表示論有哪些內容，具體有哪些應用。
因為我已經提過，即使要完整概括這個，也是像寫長篇小說一樣困難。但我嘗試用幾頁的篇幅來回答。
對於本科水平的學生來說，Etingof 等人的這本書值得作為科普入門,較全面地總結了baby level的東西，值得一看：
Introduction to Representation Theory (Student Mathematical Library): Pavel Etingof, Oleg Golberg, Sebastian Hensel, Tiankai Liu, Alex Schwendner: 9780821853511: Amazon.com: Books
按照書中第一句話的描述，"representation theory studies symmetry in linear space"。在代數中，symmetry 自然就理解為group。當然，這樣一句概括性的描述完全不能讓人體會到表示論的奇妙之處。
某位大數學家曾經聲稱，「物理就是幾何」，我當然不能很贊同這種定論性質的定義。表示論也同樣。每一個學科都是在不斷發展變化的，也許就在我碼這些字時，又會有很多新的結果被發現，過上一二十年，這個學科看上去可能就已經面目全非，所以比較靠譜的辦法就是，羅列舉例。
總的來說，表示論的基本內容是兩大塊，group representation and Lie algebra representation.
Lie theory 研究的是 group 的 infinitesimal性質。
1.1表示論的已有內容
1.1.a Baby level
"baby" 並不完全等於"easy",這裡只表示他們是基本的，最早被討論的，現在（可能）缺少新的進展，雖然需要比較熟練的掌握，但已是陳年老酒，不適合作為 research topic 。
1.1.a.1 Ordinary representation of finite groups
這是表示論的濫觴，從Frobenius,Schur 開始到 Brauer,Artin 等人的時代 ordinary 的情形已經發展完備了, 基本上是Serre 的前兩部分內容。
1.1.a.2 Complex(Real) representation of semisimple Lie algebras
Humphreys 的書基本上就是講 complex case 的（除去最後一章）。這個從Cartan-Killing開始到Weyl,再到Dykin 作的簡化，早已經是成熟內容了。Real case 在 Knapp 中有討論，要複雜一些，但也已是往事。
1.1.a.3 Representation of compact Lie groups
這個在Weyl 的時代也已經成為被終結的領域了，已經成為經典調和分析的一部分，依賴於很多 1.1.a.2的概念和方法，和基本的泛函分析。有各種各樣的數學和物理教科書討論這些內容。

1.1.b Advanced leval
這裡的advanced指的是與1.1.a有遞進關係，同時有很多research topic 的領域，有很多方面也已經很完備了，但仍有未解決的問題。這個做窮舉很有困難，你看看Humphreys的appendix就知道了，但我做一下嘗試。
1.1.b.1 Modular representation of finite groups
這個從 Brauer 開始也已經有了很大發展了，但最近的發展，我不了解厄。
1.1.b.2 Representation of infinite dimensional Lie algebra
這實際上是相當相當龐大的一個領域，至今仍然非常活躍，有機會可以多提一些，今天就算了。
1.1.b.3 Vertex (operator) algebras
與1.1.b.2有著相當緊密的關係，有部分屬於reformulation，但是也會出現許多新的對象比如 W-algebra, lattice vertex algebra, Monstrous Moonshine等等，這個也放在日後吧。
1.1.b.4 Representation of infinite diemensional groups
與1.1.b.2,1.1.b.3有著密切關係，但是已經比有限維的情況困難很多了，牽扯到一些algebraist比較討厭的分析問題，還處在發展當中。
1.1.b.5 Representation of Semisimple Lie groups
這裡主要討論的是 non-compact 的情形，依賴於很多分析的結果，也有很多問題未解決(比如 $Sp_n$ 的 unitary dual)。
1.1.b.6 Automorphic forms and automorphic representations
一樓所說的 Langlands program 指的就是這個學科。按照分類來講，它不是geometric representation 的內容，而是和數論，以及上面的1.1.b.5 有著很大聯繫的一門獨立學問。當年 Langlands 最早就是工作在1.1.b.5的這個領域的，給出了著名的Langlands classification。當然最近Ngo 用幾何方法解決了 fundamental lemma,可能讓人誤以為它是geometric representation 的一個分支。這個領域現在與AG方法並列，成了數論中的 mainstream之一。
1.1.b.7 Representation of quantum groups
這個是曾經在80s大熱過一段時間的topic, 估計製造出了幾萬規模的paper,不知道養活了多少人。但是，"quantum groups are not groups",嚴格來說是利用李代數 $mathfrak{g}$ 的 universal enveloping algebra $U(mathfrak{g})$ 的Hopf algebra structure, 通過 $q$-deformation 製造出的一類特殊的結合代數。
1.1.b.8 Representation of finite groups of Lie type
這是由Chevalley 首先發展起來的，利用Lie algebra 的理論反過來來研究finite simple group and their representations,也是一個非常有趣的，不斷發展中的方向。Chevalley 自己就發現了一些之前未發現的有限單群。Deligne-Lustzig理論利用 $l-adic$ cohomology 找到了某些單群在之前missing的一些表示, 一個典型的被作用的對象就是Drinfeld curve，利用的都是典型的 geometric representation 的方法。
1.1.b.9 Representation of algebraic groups
研究 Lie group 在一般域上的推廣，但是依賴於很多1.1.a.2 的概念和結論，以及相當多的 algebraic geometry。這在數論上有很多的應用，但我不熟悉。
1.1.b.10 Chiral algebra and Factorization algebras
個人估計，做表示論的，十有八九都沒聽說過這個……Chiral algebra 是在QFT裡面已經有的概念，但很含糊，直到Beillinson,Drinfeld 在花了好幾年後，於2004年寫了一本monograph，才利用D-modules 給出了比較mathematical 的定義。同時他們也把 Vertex algebra的概念吸收進入了Chiral algebra（不過這本書的第一章真是……）。最近（5-6年左右），Costello 等人又從QFT的角度出發，發展出了Factorization algebra 的概念，某種程度上，這兩個概念是等價的（但是這個概念，我還不能理解……）這些概念是否能帶來新的重大進展，值得期待。
………………

你會發現我抄了很多Humphreys appendix 的內容。我覺得那是對表示論相當一大部分方向一個很好的總結，但我盡量寫一些不同的東西。

………………
1.2 表示論於其他分支的聯繫與應用
你會發現，上面這些東西看上去實在是太，tedious and boring, 我也是這麼覺得的。無奈，要想在數學這們學科里天馬行空的自由發揮，必然要經歷一個漫長而又痛苦積累訓練過程，否則只能失業或者成為民科。為了看上去 self-consistent，我也只好這樣。

竊以為，看待數學裡面的一樣東西多麼有趣，並不在於它有多麼晦澀艱深，逼格多高，而在於是否與其他對象存在廣泛聯繫。這是一門學問長期發展充滿活力的基本動力，否則只能走向死亡的象牙塔尖。

表示論的真正趣味就在於，它的關係網真是非同一般的不尋常。在這裡也許能舉出來一些例子。
1.2.a representation theory and mathematical physics
眾所周知的是，1.1.a內容的極大發展，完全托 20s quantum mechanics 和 quantum field theory 的福。只管來看，許多 quantum state, 都可以看作是 某些 compact group 在 Hilbert space 上的不可約表示，於是我們就只用討論有限維表示。一個非常具體的例子就是，對於 quantum harmonic oscillator, 所有的 state 正好對應於一個 $mathfrak{sl}_2$ -triple 的不可約表示。如果把Hamiltonian 寫作
$H=frac{1}{2}x^2+frac{1}{2}p^2$
那麼升降算符
$a^{+}=frac{1}{sqrt{2}}(x+p), a^{-}=frac{1}{sqrt{2}}(x-p)$
粒子數算符
$N=a^{+}a^{-}$
其中 x,p 滿足 canonical commutation relation
$[x,p]=-i$

正好形成了這個triple, 而 H 則對應了 Casimir operator(就是那個發現Casimir effect 的)。這個例子詳情可以參考wiki上的詞條，其實也可以自己動手算算，還是很有意思的。如果用微分運算元表示（下面的1）它的highest weight 是什麼呢？你會發現，是 Herimite polynomials！
Remark:1. 如果不習慣operator 可以直接取 $p=ifrac{d}{dx}$
2.為了防止麻煩所有有關常數=1(h,m, $omega$ ……)
3.嚴格來說，要取完scaling 才是嚴格的 $mathfrak{sl}_2$ -triple，這裡為了防止麻煩就省了。
另外一個非常典型的例子就是 Hydrogen atom, 也出現了同樣的 $mathfrak{sl}_2$ -triple 結構。但是這個轉換過程要麻煩一些，要從 $SO(3)$ symmetry 到 $SU(2)$ symmetry, 再取Lie algebra, 做 complexification……所有的物理量都有表示論的對應

角量子數————不可約表示的 highest weight
磁量子數————不可約表示的 weight

實際上,Hydrogen atom system, 是具有 $SO(4)$ symmetry 的。這導致它還有一個特殊的invariant——Runge Lenz vector，但這裡不需要。
進一步的，還要討論 Clebsch-Gordon 係數， Racah-6j symbol。其實這些就是討論tensor product 的 decomposition, 還有 intertwining operator。以CG係數為例，本質上就是
$L(lambda)otimes L(mu)=c^{ u}_{lambdamu}L( u)$
$L(lambda)$ 表示 highest weight= $lambda$ 的 irreducible module, 所謂 CG 係數就是 $c^{ u}_{lambdamu}$ 。
很奇怪的一點是，物理系的人對於這些東西比數學系的其實要清楚很多，但是他們比較痴迷於指標計算，不太關注數學本質；而數學系的學了這麼多抽象理論，大多數卻不知道這些具體的例子，實在讓人感到遺憾，而這些都還只是baby version的。
進一步的，還有 $SU(3)$ symmetry 對應了 isotopin。這個沒有機會認真算過所以就不提了。
有限群的表示也是有很多用處的，典型的就是，crystal 的 symmetry 是有限群，分析他們的表示，可以得到有關crystal energy spectrum 的信息，這類似於一種discrete Fourier analysis。
這裡提到的，統統都是baby level 的。所以故事還遠沒有完結。關於無限維表示很有趣的一個情況是，對於1.1.b.5 第一個結果實際上是物理學家Bargmann做的有關 $SL_2(mathbb{R})$ 無限維表示的（也許Wigner 和 Dirac 更早，但我沒考證過，反正他們都是……），然而，後來從來沒有發現他們在物理裡面有任何應用，反而，直接導致了Harish-Chandra 和 Langlads 的一系列結果，通過 automorphic representation,導致了數論的一場革命！（Langlands 的某篇paper講到了這個事實）這不能不說是一種 Unexpected useless.
對於上面1.1.b里的其他領域，幾乎都能找到在物理裡面的影子，或者說，是物理學家發揚光大了這些領域，比如 Kac-moody algebra 和 string theory and 2d conformal field theory,；quantum group 和 integrable system，當然還有上面提到的，chiral algebra, factorization algebra 與QFT的關係。由於精力有限，我也只能了解他們的某些mathematical aspects, 所以有趣的東西，大家就自己發掘吧……
1.2.b Representation theory and number theory
提到這個，那麼所有專家的腦海里只有一樣東西，automorphic representation. 說起來非常慚愧，我也不懂 automorphic representation，只是順便學過一點，所以也沒辦法在這裡胡吹海講。大概全世界活躍在這個領域的，恐怕 $leq 50$ ,在中國呢，稱得上磚家的么，也許是 $leq 5$ 。某professor 曾經說過，很多人在這個領域混了八年十年，也還只能了解其中很小一部分的皮毛，毫無作為，有幾個師兄么，也被折磨得相當痛苦（當然也有很NB的）。我想主要原因可能並不是這個領域真的是有多麼挑戰智商，恐怕還是這門行當門檻壁壘已經被專家築得太高了，以至於非專業人士根本無法進入，非有超強毅力、非凡膽識、優越工作條件人士能夠到達research level。所以很早就有人提醒，不適合做這一行的，一定不要勉強。不過么，非專業的認識，很多時候還是有必要了解一些外圍的基本事實的。
表示論和數論，最早的聯繫，應當就是 Dirichlet character,相當於是最最最簡單的，循環群的一維復表示。當年Dirichlet 用這個證明了那個那個經典的結論就不重複了；還有各種reciprocal law, 最後都可以用 $GL_1(mathbb{A})$ 的表示（class field theory）來解釋……此後的故事講起來，就相當費勁,即便是我能理解的，也不是我這個學生能講清楚的，所以僅列舉一些事實。一個很有趣的情況是，所有的已知特殊函數都與表示論（對稱）有關,這也許是回答『特殊函數為何特殊』的最概括性回答。例如，從 $GL_2(mathbb{R})$ 的表示論出發，可以非常自然的得到模形式，它和discrete series 表示的highest weight vector有一個對應，當然表示是無限維的(可以參看mathoverflow 上的回答，Borcherds還給過哦); $SL_2(mathbb{R})$ 的表示的矩陣元，正好是一些超幾何函數；通過Weil representation, 利用 $heta$ -lifting, 可以從一個非常trivial的特徵函數（特徵集合上取1，其它取0），得到 $heta$ 函數!而這些函數在數論中的用處，都是眾所周知的。不過討論這些，必須要用 Adelic的language；要想理解Langlands program 的基本含義，還需要class field theory(這個真的沒學過，不懂), 還有1.1.b 裡面相當一部分的內容。所以僅僅是要得到最基本的結果，負擔是很重的，很多時間都要被迫花在習慣一種language上。
此外還再提一句，被媒體炒作的相當紅火的Fermat 大，其中相當一部分計算都是和表示論有關的。甚至可以被看成Langlands program的一個小練習。從Langlands 提出program 到 Wiles 的『應用』，過去了四分之一個世紀。
Automorphic representation 還有相當多的問題有待解決。
1.2.c Representation theory and combinatorics
這個大概也可以算作和數論之間關係的一部分，但還是有其自己的趣味。一個經常出現的對象就是，Young tableaux。它是一種純粹的 combinatorial object, 但在表示論中頻繁出現（比如 $GL_n$ 的不可約表示，對稱群 $S_n$ 的不可約表示），而且反過來，利用表示論的結果可以得到一些組合公式，而這些組合公式背後的correspondence都是很難看出來的。比如 hook length formula。
Weyl group 和 Coxeter group這些在表示論里出現的對象，本身就是combinatorial的。一個非常著名的例子就是Kazhdan-Lustzig conjecture的解決，問題表面上是combinatorial 的，但最後被 Beillinson,Bernstein,Kashiwara,Brylinski等人用幾何表示論(D-modules,pervese sheaf, and intersection cohomology)解決的。（貌似直到最近，才有Elias-Williamson的代數證明）這也不能不說是一個奇觀。
另外還有一大類例子，從Kac-Moody algebra 表示的 denominator formula, 可以得到一大類組合恆等式，這些都是經典的結果。
前兩段都是「如是我聞」的性質，因為我不做這方面的東西，道聽途說而已。
1.2.d Representation theory and analysis
如一樓所說，表示論里一個非常重要的幾何工具就是，D-modules。然而從歷史上來看，它是從分析裡面來的。發展廣義函數理論，一條線路就是眾所周知的Schwartz 的distribution theory；還以一種approach, 就是 Sato 的 hyperfunction 理論。後者相對來講沒有前者那麼popular,但是卻使得Sato 和 Kashiwara 發展出了D-modules 的系統理論，而且比較符合物理學家的approach，因為他們考慮的是 sheaf of holomorphic functions $mathcal{O}$ (物理學家更關心的是解析函數)。在一般情況下，一個在 $mathbb{R}^n$ 區域 $U$ 上的hyperfunction f 就被定義成了 $U$ 上係數在 $mathcal{O}$ 中的sheaf cohomology 的一個元素, 而且，微分運算元也自然的作用在這上面。（這裡應該有一個嵌入 $mathbb{R}^nhookrightarrowmathbb{C}^n$ , $mathcal{O}$ 是在 $mathbb{C}^n$ 上的）
更一般的，在代數裡面，也可以定義derivation；對一個交換代數 $A$ 可以類比定義 rings of differential operators, 進而按照 algebraic geometry 的標準做法，在scheme $X$ 上把 sheaf of regular functions $mathcal{O}_X$ 擴充成 sheaf of differential operators $D_X$ ，把 $O_X$ modules的概念擴充成 $D_X$ -modules (因為 $D_X$ 非交換，所以有left和right之分)。這樣就發展出了一整套特殊的"non-commutative algebraic geometry"。至於其應用么，在前面已經提到過了。在解決K-L conjecture的方法中，考慮的就是把 $mathfrak{g}$ 嵌入到 $D_X$ 中，其中 $X=G/B$ 是所謂的 flag variety。當然這是一套比較龐大複雜的東西，不是一時半會兒就能學會的。
另外一大塊比較經典的分析內容，就是群上的調和分析，這是一個相對比較老的topic。因為分析的一般理論考慮的對象過於寬泛，所以比較『有趣』的問題，是考慮具有對稱性的分析問題，這自然就引出了群傷的調和分析。經典的Fourier analysis 就是 $S^1$ 上的調和分析。此外，1.1.b.5中也需要相當多的群上調和分析，最重要的就是trace formula。我沒看過這些東西的細節，也就不多講了。
還有一個比較有趣的聯繫，存在於表示論和某些與可積系統有關的非線性PDE。利用vertex operator的理論，可以得到 KdV 和 KP 方程的一大類解。這些同loop group 之間也存在著很深的聯繫。但是， Saito-Jimbo-Miwa-Hirota的Kyoto school發展出的這一套東西已是80s的昨日黃花了，看不出繼續沿著老路下去還能有何作為，但是了解這一領域的某些東西，也許還有利於挖掘新的東西。
1.2.e Representation and geometry
至於表示論在幾何上的應用，最簡單的一個例子就是， $mathfrak{sl}_2$ 表示出現在了 Kahler manifold 上幾個operator identity 中。可以看Griffith-Harris的書。
和1.1.b.7 對應的很大一塊應用，就是可以通過 quantum group(比如 Hecke algebra 作為Weyl group 的 deformation) 的表示，製造出 knot invariant，包括非常著名的各種polynomial 。大概就在做operator algebra 的 Jones 發現了 Jones polynomial 之後，伴隨著Drinfeld 等人掀起的 quantum group 的火熱研究，這方面在80s,90s也掀起了一大波高潮，至於research的最新進展，我不清楚。
此外鑒於認知的局限，我就很難再想像到其它什麼了（或許還有，cohomology of Hilbert scheme 可以給出 Vertex operator的表示？但我沒有理結果這個到底是什麼意思）。可能相反的，更值得討論的是，How geometry is applied in representation theory？也就是，幾何表示論。

…………………………
1.2. $infty$
這樣大概是硬把表示論和所有主要學科聯繫上了。其實還有很多散在於各種問題的表示論應用。其它的，比如和operator algebra, random matrix, Low dimensional topology……一個方法可能是，你去尋找 representation theory and XXX,很有可能會找到搜索結果。
…………………………
1.3. 方法
與其說幾何表示論是表示論的某一個方向，不如說它是一種方法，或者說，是用幾何方法來研究表示論。有些類似於微積分中，你用變數替換求積分，用分布積分求積分，用complex variable 求積分，但從來都沒聽說過這些是微積分里的『分支』。

1.3.a Associative algebra and module theory
這可以說比較傳統的方法了。由於有限群表示可以化為群代數 $k[G]$ 的表示，李代數 $mathfrak{g}$ 的表示可以化為 $U(mathfrak{g})$ 的表示，所以associative algebra 和 module theory 的基本理論還是可以解決大部分基本的問題的。可以參看 Curtis-Reiner 的大板磚（恐怕沒幾個人能全看下來，而且有些老舊，基本針對群表示）
1.3.b Homological method and K-theory
這裡說的是algebraic方面的。Group cohomology 和 Lie algebra(group) cohomology 在structure theory 和 representation theory 裡面起著很重要的作用，雖然，個人感覺cohomology 學起來是相當枯燥無聊的，像是在被洗腦，又有些像那些求積分做的複雜的變數代換和分部積分，但是沒辦法，他們就是有效，而且確實是有意義的，特別是低階的情形（這個問題有人回答過）。
另外前面也已經兩次提到了cohomology, 一個是Deligne-Lusztig theory, 另外就是hyperfunction,這大概是由於，某些tautological的表示並不是很有意思（貌似做表示論的都會領會『有意思』的意思，但我不能領會），但在take cohomology之後，卻變得很有意思，有點類似於hyperfunction的做法。
另外，K-theory也是一種很重要的方法（我不懂K-theory,平時也沒用過，幾乎什麼都講不了）
1.3.c Geometric method
這個當然就是所謂的幾何表示論了。可以說，geometric representation theory 是最近幾十年發展起來的非常具有活力和前景的系統方法和理論，可以說，和Lie theory 有關的幾乎所有方面，都可以進行Geometrization。可以說，geometric representation 的一套dogma就是，find a geometric(sheaf) realization, then take cohomology（我是在念打油詩，不要太當真。另外有很多地方的object並不真的是sheaf, 而是某種Derived category,但同樣可以做cohomology. K-L conjecture 裡面就是這種情況）。個人還是非常羨慕有機會學做 geometric representation 的人們的，不過么，還是愛一行干一行的好。
既然前面一樓已經提到了geometric representation 的相當多內容，那麼我也就不再重複一些內容了。一個『史前』的例子就是，Borel-Bott-Weil 定理，把compact semisimple Lie group 的 irreducible representations(對應於 highest weight $lambda$ ) 實現成為 flag variety $G/B$ 上的 holomorphic line bundle $L_{lambda}$ , taking cohomology。這個大概算是algebraic theory 的一種 geometric formulation，似乎還看不出來有新的東西。
然而最近幾十年來的發展才真正顯示了geometric method的威力。除了一樓提到的，最為明顯的，莫過於上文提到過的Deligne-Lusztig theory,以及 K-L conjecture 的解決(perverse sheaf, D-modules, intersection cohomology)，以及最近一期(2010)Fields, Ngo 用 Hitchin fibration 解決了 fundamental lemma。
還有值得一提的就是以 Edward Frenkel（XXX的老闆）,Dennis Gaitsgory, Pavel Etingof 為代表的，可以被稱作是Gelfand school 新生一代吧。（這群（前）蘇聯人雖然丟失了自己的祖國，但卻攻陷了米帝的各大top universities的數學系）他們應用各種 AG的工具，來研究loop group, Kac-Moody algebra, vertex operator的表示，其對象通常已經不是Scheme, 而是對應的『affinization"， Ind-scheme。可以參考Frenkel的一系列文章。最近他們好像關注於geometric Langlands,這方面不懂，就不再多扯了。當然，引入chiral algebra 的Drinfel和Beillinson 也不得不提。Drinfeld 甚至可以稱得上是足夠拿兩次Fields 的傑出人物。
其它的,諸如 Springer theory,Ringel-Hall algebra, Nakajima quiver,Khovanov homology and categorification, 我都只是掃過幾眼，我相信自己不能比一樓解釋更多了。
幾何表示論不是我的專業，但還是會比較關心的，也許某一天真的會用到，在此恕我扯了這麼多。

1.4 後話
有兩位大老曾經表示，中國的數學應該是各學科中最先趕超世界最高水平的，如今看來，這預言幾乎是落空了。至少現在來看，國內個別學校的數學研究水平異軍突起，但總體依舊是停滯不前，雖然這一狀況在未來十年內還是很有希望得到大的改變的。
不過我覺得，相比較而言，表示論倒應該是最先達到世界最高水平的數學方向。相比較而言，華人在這一領域還是有過比較系統性貢獻的，最近也湧現出了一系列年輕的領軍人物。也正如前面所講的，表示論是這樣一門體系完整優美而又充滿活力和廣泛聯繫的學科，以至於單純的學習，也能給人帶來很好的享受，所以我願意花這麼大的篇幅來閑話。
當然，對於專門做某一方向的大多數人來講，初期的經歷會是相當痛苦的，通常只能從比較tedious,ugly的小東西開始做起，還要冒最後一無所獲被迫轉行的風險。所以，堅強的毅力和信念，循序漸進的規劃和學習，恰當的導師、題目選擇，良好的心態和品格，再加上主動的思考和討論，遠比個人的聰明才智要重要。
因為實在沒有發現有其它什麼有意思的問題了（跟overflow甚至exchange都差太遠），所以只好多在這裡灌水。我只是學生，被專家看到會笑話的，所以希望大家先幫忙指正錯誤。
就講這麼多了。美景都在那裡，快樂都是要自己去尋找發掘尋找的。

我對幾何表示論研究不深...
但是, 表示理論是一個特別有意思的話題,

數學中, 也有比較具體的研究和抽象的研究,

比如對於抽象的集合我們可以規定這個那個很多描述性的結構, 表示理論就是要具體的找出一個集合具有規定的這個那個的描述性結構.

比如, 一維, 單連通,緊緻的李群, 這是對一個集合的抽象的描述, 但是另一方面, 可以證明所有的一維單連通緊緻的李群都同構於 $S^1$

這就是一個表示理論的特別簡單的例子.

這個問題有意思在哪呢, 比如我想找一維, 單連通, 緊緻, 簡單連通的李群, 同樣是一個抽象的描述, 但是通過上面的例子, 這樣的描述性結構是不存在的, 這就是特別有意思的問題了, 很多情況下我們可能給一個集合很多的描述性的限制條件, 但是我們不知道被描述的集合是不是存在的, 表示理論基本上就是通過集合的抽象的描述性結構找出具體的例子, 如果還能證明找出來的例子是某種意義上唯一的話, 那就更美好了.

如果把表示理論限制在拓撲群裡面就有點狹隘了, 其實比如說, 希爾伯特空間中的 Riezs representation theorem, 所有的連續線性泛函都可以表示成針對一個元素的內積, 這個思想在泛函裡面還挺廣泛的, 比如還有, 廣義函數的可退化理論, 其實就是一個滿足一定條件的廣義函數是不是可以被標示成針對一個函數的積分. 還有, 函數空間的連續線性泛函是不是能表示成針對一個測度的積分. 還有比如說, 一個複線性的Banach代數如果那個代數是一個 field的話, 那麼它是同構於複數的. 所以 Banach代數的表示理論也很有意思.

與其說, 表示理論是一個理論, 不如說表示理論是一種數學思想, 是一個試圖試圖集合抽象描述的特性和那樣的集合的(唯一)存在性和構造一個具體的滿足條件的集合, 進而證明集合的抽象描述的更深一步的性質.

The fundamental aims of geometric representation theory are to uncover the deeper geometric and categorical structures underlying the familiar objects of representation theory and harmonic analysis, and to apply the resulting insights to the resolution of classical problems.，詳見geometric representation theory in nLab，這個網站其他的內容也不錯，但是局限在數學，物理，哲學。

表示論的統一定義。
設C是一個小範疇，X是C中對象，可定義X自同構態射。其全體在態射複合下是一個群，記為S(X)。
設G是一個群，(X.f)稱為G的一個C-表示。如果f:G-&>S(X)是群同態。

然後數一下數學裡有多少個常用的小範疇。
集合範疇。
群範疇。
拓撲空間範疇
某個環的模範疇。
光滑流形範疇。
李群範疇。
拓撲群範疇。
複數域上的希爾伯特空間範疇，運算元代數範疇。
等等等等。。。

。。。然後每個範疇對應一種表示論。。。
≥﹏≤這還僅僅是定義方面。每種表示論用的方法都不同≥﹏≤這。。