南北朝劉宋的時候，吳郡武康地方有一個叫沈慶之的人，他少懷大志，而且孔武有力，當東晉末年時，晉將孫恩作亂，亂兵攻武康，那時沈慶之才十多歲，隨他的族人起而自衛反抗，屢次打勝仗，從此沈慶之便以勇敢善戰聞名。
當他四十歲時，投在徵虜將軍兆倫齊的兒子伯符(竟陵太守)部下任職，竟陵地方常有蠻夷侵擾，由於沈慶之的勇敢善戰，使竟陵得到安寧，伯符也因而升了將軍，在連年的邊境生活中，沈慶之累積了不少作戰經驗，由於他屢建戰功，伯符把他推薦給孝武帝，從此他便擔任了京城防衛的重職。
元嘉十九年，沈慶之又因討伐蠻夷有功，升為建武將軍，負責防守邊疆。元嘉二十七年，宋文帝要向北方擴展，派王玄謨等人督師北伐，沈慶之一再向文帝規勸，力陳以前幾位北伐將軍失敗的教訓，文帝被纏不過，便叫左右兩個文官和他爭辯。
慶之說:「治理國事，就像治理家事一樣，論耕田應該問實際操作的長工，講織布邊要問織布的婢女。現在陛下想攻打人家的國家，卻和沒有經歷過戰爭的白面書生去商量，這件事能成功嗎( 原文:欲伐國而與白面書生謀之 事何由濟) 文帝仍然沒有接納他的意見，最後果然遭到失敗。