1937年8月,中共中央政治局洛川會議以后,中央軍委決定成立八路軍后方留守處,負責保衛陜甘寧邊區。留守處主任由軍委參謀長肖勁光兼任。留守處下轄東、西兩地區留守處。東地區留守處主任陳伯鈞,副主任陳先瑞。西地區留守處主任王宏坤,副主任王維舟。同年12月,留守處改稱為八路軍后方留守兵團。司令員肖勁光,政治部主任莫文驊。留守兵團總部機關駐延安北關云梯山和云夢山之間的小溝里(今名延中溝)。
1942年6月,陜甘中晉綏聯防軍司令部成立后,留守兵團歸其領導。
1943年1月25日,留守兵團司令部和政治部分別發出《關于擁護政府愛護人民的決定》與《擁政愛-動月的工作指示》,規定2月份為兵團所屬部隊擁政愛-動月。2月1日,留守兵團公布了擁政愛民公約。
1944年,毛澤東親自主持總結了留守兵團的政治工作經驗,寫成了《關于軍隊政治工作問題》這一重要歷史文件。
1945年9月,留守兵團建制撤銷,一部分部隊進軍東北,一部分軍隊留守邊區。
留守兵團成立以后,內清匪患,外抗日寇,并和國民黨頑固派的騷擾、破壞、--,進行了“有理、有利、有節”的斗爭。同時,留守兵團所屬部隊參加了轟轟烈烈的大生產運動,逐步解決了部隊的供給問題。留守兵團為保衛黨中央,保衛陜甘寧邊區立下了卓著的功勛。1945年,毛澤東在和肖勁光司令員的一次談話中指出:“留守兵團是一支好部隊,是堅決執行了黨中央的正確路線,完成了黨交給的任務的。”
留守兵團舊址現保留有數百孔土窯洞,多為群眾所居住。