在抗戰時期和解放戰爭時期，趙爾陸主要負責後勤供給，到了建國後，尤其是抗美援朝時期，中國的軍工建設開始顯露出跟不上時代的弊病，跟美軍現代化的裝備完全不在一個等級上，因此，趙爾陸受命組建第二機械工業部，全面建設軍工產業。

當時，中國很多武器都是從蘇聯進口的，有一次趙爾陸去蘇聯考察卻發現，蘇聯給中國的武器，大多數都是被淘汰掉的，趙爾陸大受刺激，下定了決心：一定要自力更生，絕不能讓外國人牽著鼻子走！

短短几年之後，中國的軍隊裝備已經基本實現了國產化，但好景不長，1966年，趙爾陸也不可避免地受到打擊，再加上長期的勞累過度，患上了嚴重的心臟病。

到了1967年1月底，經聶帥、葉帥兩大元老的力薦，趙爾陸重新出山，第二天就去了工作單位，再也沒回家。1967年2月2日上午，趙爾陸的秘書去向他彙報工作，推開門卻發現，趙爾陸倒在辦公桌上，已經沒有了呼吸。一位功勳赫赫的開國上將，就這樣累死在了工作崗位上。