1302. aastal sai linnuse juurde kujunenud asula Lübecki õigused. 1346. aastal müüs Taani kuningas Eestimaa, sh. Rakvere Saksa Ordule, kes omakorda pantis selle aastal 1347 Liivi Ordule. Ordu ehitas lihtsalst ringmüürilinnusest tornide ja eeshoovidega kaitstud konvendihoone, millest sai Rakvere foogti asupaik.

14. sajandi keskel oli Vallimäe põhjajalamil ehk nüüdsel Teatrimäel ka saviga seotud müüridega kivimaju. 15. sajandi II veerandil ehitati kivikirik, 1508 hakati Teatrimäele rajama frantsisklaste kloostrit, hiljem tekkis selle idaküljele surnuaed.

Vene-Liivi sõjas oli Rakvere aastail 1558-1581 venelaste võimu all ja sai tugevasti kannatada. Seejärel oli linn rootslaste käes. 1602. aastal läks Rakvere kolmeks aastaks poolakatele, kes aastal 1605 linnuse purustasid.

1618. aastal läänistas Rootsi kuningas Gustav II Adolf Rakvere linnuse ja 1631 ka linna Madalmaade saadikule Reinhold von Brederodele. Endise kloostri varemetele rajati mõisa härrastemaja. Linlaste vastuseisust hoolimata jäi Rakvere mõisana Brederodede ja aastast 1669 Tiesenhausenite valdusse, kuid 1685. aastal redutseeriti Rakvere Rootsi riigile. 1703. aastal põles Rakvere Põhjasõjas maha. Aastal 1710 läks mahapõlenud Rakvere Vene riigi valdusse, kuid Vene riik tagastas selle Tiesenhausenitele. Linna staatus ennistati Rakverele kreisilinnaks kuulutamisega 1783. aastal.
Rakvere hakkas hoogsalt kasvama pärast Balti raudtee valmimist 1870. aastal. Tekkis uusi linnaosi – Kukeküla raudteejaama ümbruses, Kondivalu lõunas. Kohalikus elus suurenes eestlaste osatähtsus. 1876. aastal asutati Viru Eesti Selts „Kalevipoeg”, 1914. aastal läks esmakordselt ajaloos võim Rakveres eestlaste kätte.

Eesti iseseisvuse ajal arenes välja oluline osa praegusest Rakvere linnasüdamest. Valmisid mitmed esinduslikud hooned (turuhoone, pangamaja, Rakvere Gümnaasium). Paranesid ka linlaste sportimisvõimalused – 1930. aastal avati pidulikult linnastaadion. Ilmuma hakkasid kohalikud ajalehed – 1924. aastal Virulane, 1925. aastal nägi ilmavalgust maakonnaleht Virumaa Teataja.

1940. alanud nõukogude okupatsiooni esimesel aastal tabasid ka Rakveret võõrvõimu repressioonid. 14. juunil 1941 küüditati Venemaale sadu rakverelasi. Järgnes Saksa okupatsioon, mis kestis Rakveres 7. augustist 1941 kuni 19. septembrini 1944. Näiliselt toimisid kõik Eesti Vabariigi aegsed omavalitsusstruktuurid, ent need olid Saksa võimude diktaadi all.

Kui sõjasündmused 1941. aastal ei toonud linnas kaasa märkimisväärseid purustusi ning ohvreid, siis 1944. aasta 19. septembri õhtul, kui Saksa väed olid juba linna maha jätnud, pommitas nõukogude lennuvägi Rakveret, hävitades umbes veerandi kogu linnast (suurema osa raudteeäärsest hoonestusest) ja tappes vähemalt 20 tsiviilisikut , nende hulgas kaks last. Järgmisel päeval võtsid nõukogude okupatsioonivõimud Rakvere juhtimise üle.

Linnapea Jakob Liiv algatusel hakati ehitama teatrit mõisahoone külge, milles tegutses rahvamaja. Ehitus jäi mitmeks aastaks seisma, kuid sai uue hoo sisse 30-ndate aastate lõpus ning teater avati pidulikult 24. veebruaril 1940. Teatri arengut ei pidurdanud ka hilisem sõda ja võõrvõimude vahetumine – esimene kutseline peanäitejuht võeti tööle veidi aega pärast esimese nõukogude okupatsiooni algust 1940, täies koosseisus professionaalse näitetrupiga teatriks sai Rakvere teater aga 1942. aastal, juba Saksa ajal – ning on siiani järjepidevalt tegutsenud.

Nõukogudeaegsete ümberkorralduste käigus sai Rakverest 1950. aastal samanimelise rajooni keskus. Linna ja rajooni juhtimine toimus nõukogude ajale iseloomulikult üksteist dubleerivate struktuuridega – ametlik administratiivne võim ehk Töörahva Saadikute Nõukogu (hiljem Rahvasaadikute Nõukogu) täitevkomitee ning NLKP kui „juhtiva ja suunava jõu” parteikomitee võim.

Linnaruumi arengus ei toimunud midagi märkimisväärset kuni 1960-ndate aastateni, mil Rakverre püstitati esimesed 4-5-korruselised tüüpelamud. Kolhooside, sealhulgas Rakveret ümbritsevate majandite jõuline areng alates „Hruštsovi sulast” aga muutis linna asemel tõmbekeskusteks hoopis kolhoosikeskused ning soodustas Rakvere provintsistumist. Sellele oli vastukaaluks teatri, muusikakooli ja muu kultuurirahva aktiivne tegevus. Üheks selle tulemuseks oli näiteks üle-eestiliste kooliteatrite festivalide traditsioon, mis algatati Rakveres 1982. aastal. Neli aastat hiljem sai alguse folkloorifestival Viru Säru, hiljem muidki traditsioone.

Eesti iseseisvusee taastamiseni viinud laulva revolutsiooni ja üleminekuperioodi jooksul taastati Eesti linnadele, sealhulgas ka Rakverele omavalitsuslik staatus ja sellega kaasnev iseseisvus oma elu korraldamisel. Samal ajal alguse saanud üleminek turumajandusele julgustas mitmeid inimesi asuma ettevõtlusega tegelema. Ettevõtluse areng kajastus ka linnapildis uute ärihoonete kerkimise näol. Tähelepanuväärsemaid sel ajal alustanud kohalikke ettevõtjaid on Oleg Gross, kelle kauplustekett ulatub nüüd ka Tallinna ja mujale Eestisse. 90-ndate aastatel elavnesid koos ettevõtluse arenguga ka ettevalmistustööd linnakeskkonna muutmiseks atraktiivsemaks ja kaasaegsemaks. Selle töö kõige tähelepanuväärsemad tulemused valmisid 2004. aastal – Rakvere Spordihall (arh. Andres Kask) ja keskväljak (arhitektuuribüroo Kosmos, projekt toetus nende 1998. aasta konkursi võidutööle). Juba varem oli valminud uus bussijaam ja promenaad, Vallimäe serva paigaldatud Tauno Kangro Tarva skulptuur (2002) tõmbas Rakverele esimest korda arvestatavat avalikku tähelepanu. Loodud oli Sihtasutus Virumaa Muuseumid, kes kujundas ordulinnusest Rakvere suurima turismimagneti. Koostöös riigiga renoveeriti 2005. aasta sügiseks põhjalikult Rakvere teatri hoone. Euroliidu toel ehitati välja kümneid kilomeetreid vee- ja kanalisatsioonitrasse nendega katmata aladele. Linnas algatati uusi kultuuriüritusi, arendati sõprussidemeid välismaa linnadega. Vahepeal üles kerkinud murele nn „jõhvistamise” pärast (riiklik regionaalpoliitiline plaan viia olulisi riigiasutusi Rakverest üle Jõhvi) nähti samas vastukaalu Rakvere enda suuremas aktiivsuses ning kultuuripotentsiaalis. Sellest ajendatult kandideeris Rakvere 2005. aastal Euroopa kultuuripealinna 2011 tiitlile.

Rakvere kerkis rohkem tähelepanu keskmesse 1987. aasta kevadel seoses fosforiidisõjaga, mille käigus levis üle kogu Eesti protestilaine Rakvere külje all oleva fosforiidimaardla keskkonnaohtliku kasutuselevõtu vastu. Protestijate poolel oli ka tollane Rakvere rajooni juhtkond. Nende sündmuste tõttu peetakse Lääne-Virumaad (ja Rakveret) sisuliselt Nõukogude Liidu lagunemise alguspunktiks.