Gränscykeln är ett av de möjliga alternativen för systemets stationära tillstånd i teorin om dynamiska system och differentialekvationer ; gränscykeln för ett vektorfält på fasplanet eller, mer allmänt, på något tvådimensionellt grenrör , är en sluten (periodisk) bana för detta vektorfält i närheten av vilken det inte finns några andra periodiska banor. Motsvarande är påståendet att varje bana tillräckligt nära gränscykeln tenderar till den antingen i direkt eller omvänd tid.
Poincaré-Bendixson- och Andronov-Pontryagin-satserna säger att ett typiskt system med kontinuerlig tid på ett plan (fysiskt sett, vars tillstånd ges av två reella parametrar, t.ex. spänning och ström, eller positionen och hastigheten för en punkt på en rätlinje linje) kan bara tendera till ett jämviktsläge eller till gränscykeln.
Som följer av definitionen är gränscykeln på varje sida antingen frånstötande eller attraktiv. Om beteendet är detsamma på båda sidor kallas cykeln frånstötande respektive attraktiv . Om det å ena sidan finns attraktion och å andra sidan repulsion talar de om en halvstabil cykel.
Beteendet för banor nära gränscykeln beskrivs av Poincaré-mappningen på segmentet tvärs cykeln - för denna mappning är punkten som motsvarar cykeln fixerad. Således är en cykel attraktiv eller frånstötande om och endast om denna punkt är respektive attraktiv eller frånstötande. En cykel kallas hyperbolisk om motsvarande fixpunkt är hyperbolisk - det vill säga den har en derivata som skiljer sig från . I detta fall, om moduloderivatan är större än 1, är cykeln instabil, om mindre är den stabil.
Det är värt att notera att Poincaré-kartan vanligtvis - i synnerhet för dynamik på ett plan eller på en sfär (i allmänhet exklusive endast fallet med dynamik på ett icke-orienterbart grenrör) - bevarar orienteringen, så man talar ofta helt enkelt om derivatan av Poincaré-kartan, utan att specificera att ta dess modul separat.
Hyperboliska gränscykler förstörs inte av små störningar - om det ursprungliga vektorfältet hade en hyperbolisk gränscykel, så kommer alla fält nära det också att ha en hyperbolisk gränscykel nära den ursprungliga.
Den enklaste bifurkationen förknippad med gränscykler är sadelnodsfördelningen : två hyperboliska gränscykler, frånstötande och attraktiva, närmar sig varandra. Vid bifurkationsögonblicket smälter de samman och bildar en halvstabil cykel, som försvinner med en ytterligare förändring av parametern.
Ur komplexiseringssynpunkt (i fallet med ett analytiskt vektorfält) kan denna bifurkation betraktas som en avvikelse från gränscykeln till den komplexa domänen .
Men på Klein-flaskan eller när man överväger komplexa gränscykler är en mer komplex bifurkation också möjlig - den så kallade blå himmelkatastrofen . När parametern tenderar till det kritiska värdet, börjar längden av (en!) gränscykel att växa, tenderar till oändligheten, och därför fortsätter den inte till själva bifurkationsmomentet.
Den andra delen av Hilberts 16:e problem rör det möjliga antalet och arrangemanget av gränscykler för polynomvektorfält i planet. I motsats till den första, algebraiska delen, som kräver att man beskriver arrangemanget av ovaler av en algebraisk kurva av en given grad, även för kvadratiska vektorfält, är förekomsten av en enhetlig övre gräns för antalet gränscykler okänd.