Urodzony 27 stycznia 1861 roku w Bochni, pierwsze lata życia spędził w Krakowie w garderobie swojej matki, Heleny Modrzejewskiej. Kiedy wyjeżdżała do pracy w Warszawie, Rudolfem zajmowała się babcia. Był wszechstronnie utalentowany – od małego świetnie grał na fortepianie, wykazywał też zainteresowanie techniką. O tym, że chce w przyszłości budować mosty, zdecydował w wieku 14 lat, zafascynowany projektem budowy Kanału Panamskiego. W 1876 roku wraz z matką i jej mężem Karolem Chłapowskim wyjechał do Ameryki, gdzie zaczął używać prostszego do wymówienia przez Amerykanów nazwiska Modjeski. W domu mówiono jednak po polsku, jego matka kultywowała polskie tradycje. Cały czas uczył się gry na fortepianie, jego partnerem bywał przyjaciel domu Ignacy Jan Paderewski.
Inżynierii mostów uczył się w prestiżowej École des Ponts at Chaussées w Paryżu. Ze zdobytym w 1885 roku dyplomem inżyniera pojechał do Polski, by zaręczyć się z Felicją Bendówną. Ślub narzeczeni wzięli w polskim kościele w Nowym Jorku.
Pierwszą pracę podjął w biurze wybitnego konstruktora George’a S. Morisona. Zdobywał doświadczenie, choć zarabiał niewiele. Utrzymywała go matka, która miała już za sobą znaczące sukcesy na deskach amerykańskich teatrów. W 1893 roku postanowił rozpocząć pracę na własny rachunek. Założył w Chicago firmę konstrukcyjną Modjeski & Masters, która szybko zdobyła uznanie i prestiż. Działa zresztą do dziś.
Pierwszy imponujący projekt Modrzejewski zrealizował na granicy stanów Iowa i Illinois. Zaprojektował dwupoziomowy most na rzece Missisipi i nadzorował jego budowę. Konstrukcja była nowatorska – na górnym poziomie poprowadzona została linia kolejowa, na dolnym jezdnia dla samochodów, a całość spinało obrotowe przęsło, dzięki któremu mogły przepływać statki. Dzieło do dziś zapiera dech swoją wielkością. W 1903 roku jego konstruktor został za nie uhonorowany tytułem inżyniera roku, a amerykańska prasa ogłosiła go najwybitniejszym budowniczym mostów Ameryki.
Kolejne dokonania Modrzejewskiego są jeszcze bardziej spektakularne. Oddany do użytku w 1926 roku most Benjamina Franklina w Filadelfii ma przęsła o rozpiętości ponad 500 metrów i jest największą taką konstrukcją na świecie. Kolejny most tego typu, wybudowany trzy lata później w Detroit, ma przęsła o jeszcze większej rozpiętości. W sumie Modrzejewski przez swoje długie zawodowe życie zaprojektował ok. 40 mostów na największych rzekach Ameryki. Z czasem wyspecjalizował się w konstruowaniu mostów wiszących, które ówcześnie były szczytem nowatorskich rozwiązań projektowych i materiałowych. Stosował najnowocześniejsze stopy stali, lał na przęsła zbrojony beton, zastępował murowane wieże stalowymi konstrukcjami. W swojej firmie otworzył wydział badawczy, który sprawdzał wytrzymałość materiałów poszczególnych elementów przyszłych konstrukcji.
Jednocześnie dzielił się swoją wiedzą i doświadczeniem, wydając prace naukowe. Jego podręcznik projektowania mostów Standard Design for Steel Bridges przez kolejne dziesięciolecia był znaczącą pozycją budowniczych mostów. Na Uniwersytecie Illinois otrzymał tytuł doktora inżynierii, Politechnika Lwowska uhonorowała go tytułem doktora honoris causa. Amerykanie wyróżnili go wieloma prestiżowymi nagrodami, m.in. John Fritz Gold Medal, najważniejszym odznaczeniem przyznawanym w branży inżynierskiej. Docenili go także Francuzi, wręczając mu krzyż orderu Legii Honorowej, w Polsce otrzymał nagrodę na Powszechnej Wystawie Krajowej w Poznaniu.
Jego uczniem jest Joseph B. Strauss, projektant Golden Gate Bridge w San Francisco – najsłynniejszego mostu Ameryki. Inżynierskie arcydzieła Modrzejewskiego do dziś uważane są za najwybitniejsze osiągnięcia techniki, wiele z nich to najcenniejsze zabytki wpisane na prestiżową Listę Zabytków USA. Większość jest cały czas używana.
„Syn jednej z największych konstruktorek aktorskiej fikcji stał się jednym z najśmielszych na świecie konstruktorów” – napisała o nim w swoim pamiętniku Helena Modrzejewska.
Amerykanie co roku przyznają nagrodę Ralph Modjeski Award for Excellence in Transportation Design, Preservation and Archaeology wybitnym konstruktorom, których dokonania mają wpływ na poprawę systemów transportowych.