1952年6月，在朝鮮指揮作戰的志願軍代司令員陳赓奉急令回國，擔任了軍事工程學院院長兼政治委員。他深刻體會到創辦軍事工程學院意義重大、迫在眉睫，戰争的形勢一再表明新中國急需加強國防現代化建設，急需有一大批自己的軍事技術幹部。
就像每一次指揮打仗那樣，陳赓又一次臨危受命，盡管面臨無數的困難，他卻義無反顧。在哈爾濱選好校址後，師資成了最大的難題。為了能從全國抽調到需要的師資，陳赓不顧戰争留下的傷痛，四處向著名專家求教，想方設法到各地大學尋覓人才，并多次拿着确定好的專家、教授名單請周恩來總理批示。有一次，周總理正在主持會議，為了不失去機會，陳赓就在會議門口等候，正巧，周總理上了一次廁所。當周總理從廁所出來時，他抓住機遇遞上了報告。周總理做完批示後哈哈大笑，說找我在廁所裡辦公，這是你陳赓的一大發明。
陳赓以非凡之舉為軍事工程學院請來了大批的優秀專家、教授，那時學院建設剛剛起步，加上國家經濟困難，學校的辦學條件并不寬裕。陳赓卻把學院裡一棟最好的樓房劃撥給專家、教授作宿舍，并為他們專門開設飯廳、請名廚做飯。為了讓專家、教授集中精力更好地從事教學和研究，他跑前跑後親自為他們解決家屬就業、子女上學等實際問題。
為此，一部分老幹部、老部下對陳赓的所作所為議論紛紛，有人埋怨他自己住在又暗又小的平房裡不說，還讓其他人跟着受罪、吃苦。也有人質疑說自己經曆過九死一生的兩萬五千裡長征，哪些知識分子對革命做了這麼大的貢獻？
聽到這些不同的聲音，陳赓立即召集會議，他說：“要想加強國防建設，這些懂軍事、懂技術的專家、教授可是國家的寶貴資源，否則加強國防就是一句空話。這些專家、教授十年寒窗苦熬，拖家帶口地來到哈爾濱很不容易，我們要尊重知識、尊重人才，給他們搭建用武的平台。”面對個别人依然不理解，陳赓就嚴肅地說：“我們是老共産黨員，黨中央派我們到這裡，是讓我們繼續發揚不怕犧牲、不怕苦累的優良傳統的，不是來相互攀比、享受照顧的！”
1953年9月1日，經曆了一年零三個月的建設，新中國曆史上第一所多軍種綜合性的軍事工程學院——中國人民解放軍軍事工程學院正式成立了。錢學森參觀後驚歎地說，在我國現有條件下，用這麼短的時間辦起這樣一所完整的、綜合性的軍事技術學院，在世界上也是個奇迹。
然而，知情的人都清楚，陳赓為創造這一“奇迹”耗盡了心血。後來，有記者問在沒有任何經驗可循的情況下是如何創辦軍事工程學院的，陳赓形象地說：“辦學校就好比是開飯館，飯館名聲怎麼樣，關鍵看大師傅手藝。專家、教授就是我們工程學院掌勺的大師傅，學員是就餐者，而我們這些幹部就是端盤子的店小二，是為專家、教授和學員服務的。”