Gorbatjov gick 1946 med i det kommunistiska ungdomsförbundet, Komsomol. 1952 gick han med i Sovjetunionens kommunistiska parti (SUKP) och skrev samma år in sig vid Moskvauniversitetet, där han tog juristexamen 1955. 1971 blev han medlem av centralkommittén i SUKP och blev partisekreterare för jordbruksfrågor 1978. Han blev fullvärdig politbyråmedlem 1980 och blev snart en mycket aktiv sådan, han var då med sina 49 år den yngste medlemmen. Då Jurij Andropov dog i februari 1984 tog Konstantin Tjernenko över som generalsekreterare för partiet. Redan då sågs Gorbatjov som den naturliga efterträdaren till Tjernenko. Gorbatjov valdes till generalsekreterare för SUKP den 11 mars 1985, en dag efter Tjernenkos död. Han var då fortfarande politbyråns yngste medlem med sina 54 år.

Kort efter sin utnämning försökte Gorbatjov ta itu med problemen. Hans första mål var att få fart på den inhemska ekonomin som hade stagnerat under Leonid Brezjnev. Medlen var att försöka minska byråkratin och få till stånd tekniska moderniseringar och ökad produktivitet.

Det gick trögt i början och Gorbatjov genomdrev då det som han senare kom att förknippas med för eftervärlden: glasnost (öppenhet) och perestrojka (nydaning). Under glasnost ökades yttrandefriheten. Press och television fick friare händer och det stalinistiska totalitära systemet skulle bort. Under perestrojkan introducerades fria och hemliga val inom partiet, med flera kandidater att välja mellan. De första försöken att införa marknadsekonomi gjordes också. Detta rönte dock starkt motstånd från de äldre konservativa inom partiet som ville ha kvar total makt över ekonomin. Gorbatjov genomförde även en kampanj mot alkohol.

På utrikesplanet arbetade Gorbatjov för avspänning och avrustning. I ett avtal (det så kallade INF-avtalet) med USA:s president Ronald Reagan1987 beslöts att avskaffa alla medeldistansrobotar. Med tiden byggdes det upp en nära vänskap mellan de två presidenterna och efter kalla krigettilldelades Gorbatjov Ronald Reagan Freedom Award och 2004 var han Rysslands representant på Reagans begravning.

1990 blev Gorbatjov Sovjetunionens förste verkställande president. Hans kamp för avspänning och öppenhet gav honom ett gott anseende i väst. Han erhöll Nobels fredspris 1990. Samtidigt som han blev populär utanför Sovjetunionen (Gorbi-effekten), växte kritiken mot honom internt både från konservativa kommunister och från demokratiförespråkare.

Med öppenheten kom ett mer instabilt Sovjetunionen, vilket fick till följd att Gorbatjov tvingades inrikta sig på politisk stabilitet. Liberala politiker ersattes med mer konservativa och han stärkte sin egen presidentmakt. Vid den misslyckade Augustikuppen den 19–22 augusti 1991 försökte mer konservativa och militaristiska element inom kommunistpartiet och försvarsmakten att avsätta honom, med understöd av vissa enheter inom krigsmakt och säkerhetspolis. Efter starkt motstånd mot dessa krafter från allmänheten och Rysslands folkvalde president Jeltsin, misslyckades kuppen inför världens tv-kameror som var på plats vid presidentpalatset i Moskva. Gorbatjov kunde återta presidentposten men var försvagad och Jeltsin sågs som den stora hjälten.

Gorbatjov ville in i det sista göra om Sovjetunionen till en genuin federation där varje delrepublik skulle få mer makt, men detta gick i stöpet när fler och fler sovjetrepubliker utropade sin självständighet under 1991. Han lämnade posten som Sovjetunionens president den 25 december 1991. Sovjetunionen delades upp i sina republiker som blev självständiga länder. Med undantag av de baltiska staterna bildade de nya staterna en ekonomisk union – Oberoende staters samvälde (OSS).

Gorbatjov kandiderade i det ryska presidentvalet som oberoende kandidat 1996, men fick ett mycket svagt stöd. År 2000 startade han Rysslands socialdemokratiska parti, vilket ogiltigförklarades år 2007 av högsta domstolen i Ryssland på grund av för få medlemmar. I maj 2004 avgick han som partiledare för socialdemokraterna. I oktober 2007 bildade Gorbatjov en ny politisk organisation, Socialdemokratiska förbundet. År 2008 annonserade Gorbatjov bildandet av ytterligare ett nytt parti – Oberoende demokratiska partiet – tillsammans med Alexandr Lebedev. Själva partigrundandet slutfördes möjligen aldrig.

På tjugoårsdagen av Berlinmurens fall den 9 november 2009 var Gorbatjov en av hedersgästerna i Berlin tillsammans med representanterna från andra världskrigets segermakter liksom vid 25-årsdagen den 9 november 2014.