Skolas ēka būvēta laika posmā no 1876. līdz 1879. gadam pēc arhitekta Johana Daniela Felsko/1813-1902/ projekta.
Rīgas 2. ģimnāzijas ēkai ir Valsts nozīmes arhitektūras pieminekļa statuss. 

Reālsksolu paredzēja celt kā brīvi stāvošu trīs stāvu mūra ēku līdzās pilsētas kanālam. Felsko sagatavotajam plānam sākotnēji bija kvadrātam pietuvināta taisnstūra forma. Celtnes sānu rizalīti rotāti ar stājskulptūrām. Kreisās puses skulptūra attaino zēnu, galvā tam ir cepure ar spalvu un rokās āmurs un atvērta grāmata. Labajā pusē dieviete ar kailu galvu un pagariem matiem. Rokā ar āmurs, pie kājām nolikts zobrats, kniebles un aizmugurē redzama lakta. Uz centrālās ass projektēts vestibils ar kolonnām un kāpņu telpa. 

1899. gadā sakarā ar skolnieku skaita palielināšanos, skolai sāka celt piebūves. 1900. gadā darbus pabeidza un reālskolas ēka tika paplašināta, piebūvējot tai divus spārnus. Līdz ar to partera (1.stāvā) varēja iekārtot dzīvokli direktoram, vēl klases, zāli rīta lūgšanām latviešu skolniekiem, kanceleju un bibliotēku. Apakšējā stāvā atradās arī aula. 2. stāvā bija iekārtota lūgšanas zāle pareizticīgo skolniekiem un telpas klasēm. 3. stāvāatradās telpas klasēm, krievu bibliotēka, fizikas kabinets un zīmēšanas zāle. Zem aulaspagrabstāvā atradās vingrošanas zāle.
Reālskolā uzceltā aula (aktu zāle) ar mūziķu balkonu ir analoga nerealizētajai Mazās ģildes projekta iecerei. Reālskolas fasādei izvēlēta neorenesances stilistika.

Renovācijas darbi tika sākti 2007. gada nogalē un svinīgā atklāšana notika 2009. gada 1. septembrī.

Rekonstrukcija ģimnāzijas ēkā tika veikta pilnā apjomā – sākot no pamatiem un beidzot ar jumtu. Skolā ir ierīkots lifts – tā izmantošana gan ir stingri reglamentēta, un galvenokārt tas paredzēts cilvēkiem ar kustību traucējumiem. Līdztekus tam skola ir ieguvusi arī vairākas jaunas papildu telpas. Ir pārbūvētas un paplašinātas pagrabtelpas, kur ierīkota arī ēdnīca. Paplašināšana izdarīta daļēji arī uz veco padomju laika komunikāciju rēķina, piemēram, likvidējot veco siltummezglu, kas aizņēma daudz vietas. Lai pagrabstāvs būtu izmantojams pilnvērtīgi, tika padziļināta grīda – līdz tam griestu augstums šeit nebija lielāks par diviem metriem. Atjaunota un atkal ir atvērta arī mazā pagrabstāva sporta zāle, kas sliktā stāvokļa dēļ bija slēgta, – tagad šeit ir izbūvēti logi un jaunas avārijas izejas durvis, kā arī ievilkta ventilācija.

Svarīga detaļa ir vēsturiskais kaltais metāla žogs ap skolu – arī šis elements ir pilnībā atjaunots un uzskatāms par savā ziņā unikālu, ņemot vērā, ka savulaik Rīgas centra apbūvei tik raksturīgie metāla žogi ir saglabājušies vairs tikai retumis. Restaurētas ir arī vairākas vēsturiskās detaļas – piemēram, vecās lustras, dažādi būvkalumi, podiņu krāsns, tāpat arī vecie grīdas flīžu segumi atsevišķos vestibilu un kāpņu telpas laukumiņos. Gaiteņos ir salikti atjaunoti vēsturiskie konvektori – visi, ko vien vēl ēkā varēja atrast, piemēram, melnajās kāpnēs, tehniskajās telpās un citur.