Kada je prvi put Paja Jovanović posetio Beograd ne zna se tačno (moguće da je to bilo tokom njegovih poseta rodnom Vršcu i južnim krajevima Srbije poslednjih decenija XIX veka) i mada u njemu zbog velike angažovanosti i posla na svim stranama sveta nije nikada dugo boravio, Beograd je bio grad kome se uvek vraćao. Kako je početak Drugog svetskog rata sprečio planove za izgradnju umetničkog ateljea u Beogradu, za koji su već bili urađeni nacrti, Paja Jovanović je 1950. započeo prepisku sa upravom Muzeja grada Beograda oko otvaranja Legata. Svome gradu želeo je da ostavi, kako je govorio "ono što bi vredelo čuvati" od njegovog rada i alata, kako bi se napravio jedan atelje, soba majstora, zanimljiva za gledaoce koji bi želeli više da saznaju o njemu i njegovom delu.
Celokupan Legat sa više od 800 predmeta predat je 1952. na čuvanje Muzeju grada Beograda kojem je po umetnikovoj želji posle njegove smrti, 30. novembra 1957. u Beču, predata i posmrtna urna. Kao što je želeo, urna sa posmrtnim ostacima preneta je i položena da večno počiva u Aleji velikana na Novom groblju u Beogradu, a istoga dana Muzej grada Beograda je ispunio i drugu želju legatora i 11. juna 1970. je otvoren Muzej Paje Jovanovića.
Legat je 1972. dopunjen poklonom umetnikove supruge Hermine-Muni Dauber, koja je Muzeju grada Beograda ostavila 11 umetnikovih slika iz privatne kolekcije i više komada stilskog nameštaja.
Slikar Paja Jovanović (Vršac, 1859 – Beč, 1957) rođen je u porodici fotografa Stevana i Ernestine Jovanović. Godine 1875. došao je sa ocem u Beč, gde se 1877. upisao na prestižnu Akademiju likovnih umetnosti. Po završetku studija mnogo je putovao i radio za galeriste Pariza i Londona, a od 1895. živeo je u Beču. Za člana SANU izabran je 1888. godine.
U svojoj izuzetno dugoj umetničkoj karijeri ostvario je izuzetna dela: istorijske kompozicije (Seoba Srba, Proglašenje Dušanovog zakona), žanr scene (Kićenje neveste, Borba petlova, Mačevanje) i veliki broj portreta poznatih ličnosti (Mihailo Pupin, kralj Aleksandar i kraljica Marija Karađorđević). Ogledao se i u crkvenom slikarstvu izvodeći ikonostase u crkvama u Dolovu i Novom Sadu.