新中国成立后，中国人民解放军的职能任务，由推翻国民党反动统治、夺取全国政权，转到保卫社会主义建设，保卫国家领土、主权和安全，防御帝国主义侵略。面对新的历史条件和新的任务，中共中央委员会和中央人民政府人民革命军事委员会，开始着手建设一支强大的正规化、现代化国防部队，落实毛泽东曾提出的：“我们将不但有一个强大的陆军，而且有一个强大的空军和一个强大的海军。”(《建国以来毛泽东军事文稿》上卷第4页)当时，最迫切的任务之一，也是毛泽东最为关注的，就是改建、创办军事院校，尤其是办一所高等军事学府，培养训练能熟练掌握现代军事科学技术，能组织指挥诸军种、兵种协同作战的中高级指挥员。

　　毛泽东为中国人民解放军军事学院题词

　　1949年10月20日，在军委组成后的第一次会议上，代总参谋长聂荣臻就在关于军事问题的报告中透露出重要信息：军委正在筹备陆军大学。时任西南局第二书记、第二野战军司令员的刘伯承，得知消息后给中央写信，提出：“要建设一支现代化的军队，最难的是干部的培养。我愿意辞去在西南担任的一切行政长官的职务，去办一所军事学校。战争已经结束了，我年龄这么大了，还是让我去办学校吧！”（《刘伯承传》第548页）刘伯承早在1927年便赴苏联留学，先后在苏联高级步兵学校、伏龙芝军事学院学习，是学院高材生。回国后曾任中国人民抗日军政大学副校长，兼任过中原军区、第二野战军军政大学校长和政治委员等，有丰富的治校育才经验。

　　经过慎重考虑后，毛泽东同意了刘伯承的请求。他还和军委副主席、总司令朱德给刘伯承写信，要他把西南工作交给邓小平、贺龙后，早日到北京负责筹建陆军大学。

　　此时，陆军大学筹建工作已在军委领导下展开，有关负责人为选择校址而奔忙。1950年6月，军委决定成立陆军大学筹备委员会，指定军委军训部部长萧克为筹委会主任，当时主要工作仍是选择校址。9月，聂荣臻向毛泽东呈送报告说：“关于陆大校址问题，曾拟以香山作为临时校址，先行开学，择地修建校舍，后拟将长辛店营房改作陆大临时校舍。今天约苏联顾问柯托夫、康略夫一同去看，他们均认为作陆大校舍太不合适，提议在长春、天津、南京等地另找地址。又据由华东方面来的同志谈，南京原国民党办的陆大校址设备颇全，可容3000人，现华东军政大学校部即驻此。同时，南京附近尚有原伪各军校址数处，似可调整。我认为，为节省开支与时间，同时，北京又无适当校舍，暂设在南京为好（利用伪陆大设备）。”毛泽东批复：“同意陆大设在南京。”（《建国以来毛泽东军事文稿》上卷第209页）