Budova Městské knihovny je víceúčelová. Kromě knihovních prostor v ní od počátku fungovaly galerijní prostory v posledním patře, oficiální rezidence a přijímací sákly primátora hlavního města a v podzemí řada divadelních a přednáškových sálů. Stavba je čtyřpodlažní, s důstojnou monumentální fasádou obloženou pískovcem do náměstí, svou délkou přesahuje jeho prostor. Má reprezentační vstupní portikus  se šesti pylony, jež jsou zakončeny plastikami, ze stran je ukončena širokými rivality, vysazenými na sloupech. První podlaží je velmi nízké, z větší části zapuštěné, jen s malými okny, další dvě podlaží s hlavními knihovními prostory (první) a prostory primátora (třetí) mají velká okna v hladké stěně, jen s minimálním členěním meziokenních panelů, s výrazným průběžným parapetem. Poslední, podkrovní patro je nižší, ve výrazu potlačené. Šikmá střecha je prosvětlena několika nízkými vikýři. Ze západní strany  je skladba oken rozmanitější, odpovídá tomu, že v tíéto části byly situovány specializované čítárny a další sály. Nově byl upraven vstup do dětského oddělení a samostatný vstup do výstavních prostor. Z východní strany je podoba stavby obdobná, odtud je vstup do loutkového divadla v podzemí. Hlavní portikus otevírá krajními dveřmi vstup na schodiště směřující do podzemní rozlehlé šatnové haly, z níž jsou přístupné velké sály, troje dveře se otevírají na široké schodiště vedoucí do knihovní haly. Ústřední knihovní sál má skleněný strop. Interiéry jsou řešeny ve stylu uměřeného art deco (s velkou mírou reprezentace v primátorských prostorech). Stavba byla několikrát upravována v interiérech, naposledy při komplexní rekonstrukci na sklonku 90. let. Celá stavba je vynikajícím příkladem novoklasicistní architektury 20. let v Praze a je proto ve svých architektonických hodnotách nedotknutelná. 