Modulgruppen är gruppen av alla Möbius-transformationer av formen
var är heltal och .
Modulgruppen identifieras med faktorgruppen . Här är gruppen av matriser
var är heltal , .
Den modulära gruppen är en diskret grupp av transformationer av det övre komplexa halvplanet ( Lobachevsky-planet ) och tillåter en representation av generatorer
och relationer , det vill säga är en fri produkt av en cyklisk grupp av ordning 2 genererad av , och en cyklisk grupp av ordning 3 genererad av .
För en godtycklig transformation från en modulgrupp gäller följande likhet:
Eftersom den imaginära delen är icke-noll, och talen och är heltal inte lika med noll samtidigt, separeras värdet från noll (det kan inte vara godtyckligt litet). Detta betyder att det i omloppsbanan för vilken punkt som helst finns en där den imaginära delen når sitt maximum.
Den grundläggande domänen (kanonisk) för en modulär grupp är den slutna domänen
Det är lätt att kontrollera med (1) att transformationer av den modulära gruppen inte ökar den imaginära delen av punkterna från . Av detta följer att för att två punkter ska tillhöra måste deras imaginära del vara densamma: . Följande transformationer och punkter uppfyller dessa villkor:
I synnerhet har alla punkter i regionen en trivial stabilisator utom tre:
Dessutom följer det av detta att när det övre halvplanet faktoriseras av modulgruppens verkan, visas de inre punkterna injektivt, medan gränspunkterna limmas till punkterna "spegel" till dem med avseende på linjen .
För att visa att någon punkt från är kongruent med någon punkt från , betraktar vi i sin omloppsbana som genereras av transformationerna och , punkten med den maximala imaginära delen och, med hjälp av ett heltalsskifte, skiftar vi så att den verkliga delen av dess bild blir ingen mer än 1/2 i absolut värde. Då hör bilden till (annars, om dess modul var mindre än 1, skulle det vara möjligt att strikt öka den imaginära delen med hjälp av en transformation).
Det är också lätt att visa att transformationerna och generera hela modulgruppen. Låt vara en godtycklig modulär transformation och vara en inre punkt av . Som beskrivits ovan, låt oss hitta en transformation som översätts till området . Punkterna och ligger i , och är intern, därför . Då ligger transformationen i punktstabilisatorn , vilket är trivialt. Därför ligger i gruppen som genereras av transformationer och .
Intresset för den modulära gruppen är förknippad med studiet av modulära funktioner , vars Riemann-yta är kvotutrymmet , identifierat med den grundläggande domänen av den modulära gruppen. Den fundamentala domänen har en ändlig area (i betydelsen Lobatjovskij-geometri), det vill säga den modulära gruppen är en fuchsisk grupp av det första slaget.