1961. godine formiran je Umkhonto we Sizwe. Mandela je postao glavni zapovednik. 1962. godine Mandela je uprkos zabrani napustio zemlju i putovao nekoliko meseci. U Etiopiji on se obratio Pan African Freedom Movement of East and Central Africa, a u drugim zemljama su ga također srdačno prihvatili. U toku ovog putovanja, već sluteći, da će doći do oružanih razračunavanja, on je organizovao Guerilla-Training za članove Umkhonto we Sizwe.

Kratko nakon povratka u Južnu Afriku Mandela je uhapšen. Optužba je glasila: Poziv na ilegalni štrajk i izlazak iz Južne Afrike bez važećeg pasoša.

Njegovo najveće nastojanje u toku procesa bilo je da dokaže da se tu u stvari sudi afričkom narodu. Od samog početka Mandela je osporavao legitimitet suda da donese presudu u njegovom slučaju; nije se osećao niti pravno, niti moralno obaveznim da poštuje zakone parlamenta, u kojima on nije bio zastupljen. U toku jednog političkog procesa došlo je do sukobljavanja različitih interesa grupa stanovništva, te samim tim sudovi nisu mogli biti nepristrasni i fer. U uvodu je Mandela rekao:

"I detest racialism, because I regard it as a barbaric thing, whether it comes from a black man or a white man."


Na kraju ovog sudskog procesa Mandela je osuđen na pet godina zatvora. Dok je odsluživao ovu kaznu, pozvan je pred sud i u toku Rivonia-procesa optužen je za sabotažu. Njegove izjave u toku procesa ušle su u istoriju otpora protiv apartheida i bile su inspiracija za sve one koji su se borili protiv apartheida.

Mandela je osuđen na doživotnu robiju i prvi deo svoje kazne odslužio je u zloglasnom Robben Island zatvoru, koji se nalazio sedam kilometara od obale Kapstadta i imao najviše mere sigurnosti. U aprilu 1984. godine prebačen je u zatvor Pollsmoor u samom Kapstadtu, a decembra 1988. godine u zatvor Victor Verster u blizini Paarla, odakle je konačno i pušten na slobodu. Još u zatvoru on je odbijao pomilovanje i ukidanje izrečene kazne. Kao protuusluga od njega se tražilo da prizna Bantu-politiku, time što bi priznao Transkei, te sa zahtevalo obećanje da bi se on tamo (u Transkei) i preselio. Kod druge ponude, opet se od njega zahtevalo da kao protuuslugu objavi odricanje od oružja. Njegov odgovor je bio, da zatvorenici ne mogu sklapati nikakve ugovore i da samo slobodni ljudi mogu pregovarati.


11. februara 1990. godine oslobođen, Mandela je odmah počeo sa radom da bi postigao ciljeve koje je sebi zacrtao pre četiri decenije.1991. godine na prvoj Godišnjoj konferenciji ANC-a, nakon što je on to 1990. godine odobrio, Mandela je imenovan za predsednika.

Nelson Mandela se nikada nije dvoumio po pitanju demokratije i jednakosti. Uprkos provokacijama, on nikada na rasizam nije odgovorio rasizmom. Njegov život je inspiracija za sve one u Južnoj Africi i u celom svetu, za sve one koji žive potlačeni ili kao građani drugog reda, za sve one koji žele to da pobede.

1993. godine Nelson Mandela je dobio Nobelovu nagradu za mir, a 1994. godine nakon prvih opštih izbora u Južnoj Africi postao je predsednikom Južne Afrike. 1999. godine on se povukao iz političkog života i trenutno živi u svom rodnom mestu Transakei.