日本自1869年明治天皇徹底掃除幕府勢力完成日本全境統一，正式開始了“明治維新”；首先改革的重點就是建立新式軍隊；于是1871年實行征兵制，先後設立了兵部省和早期的四個鎮台–東京，大阪，鎮西，東北；1874年在四鎮台的基礎上改編爲六鎮台。
1888年，日本陸軍將國內原有的六個按地域劃分的鎮台改稱師團，序號從第一至第六師團，1891年爲警衛皇宮又成立了近衛師團。近衛師團實際上是日本天皇的禁衛軍，長期以來負擔皇宮安全護衛工作，因此近衛師團長期駐紮在東京。首任師團長爲日本皇族小松宮彰仁親王陸軍中將。
近衛師團的兵員來自本鄉、宇都宮、佐倉、水戶這4個連隊區。而大正時代以後，步兵和騎兵從全國，炮兵、工兵和辎重兵從關東地方的師團管區中抽調精銳。爲了保護皇宮，就要盡量選拔優秀的士兵來組建近衛師團。
所以當初被配屬在近衛師團的士兵也被世人看作是精英。如果身邊有親戚在近衛師團服役的話，那麽這家人就會有“一人得道，雞犬升天”的感覺，那種自豪感也不用說了。
在中日甲午戰爭結束前一個月，近衛師團在遼東半島登陸，參加了旅順戰役，戰爭結束後被調往台灣執行占領台灣的侵略任務。日俄戰爭期間，近衛師團從朝鮮半島南浦登陸，配屬第一軍參加了遼陽會戰、沙河會戰和奉天會戰。
在二戰爆發後，近衛師團第1、第2近衛步兵聯隊、第3近衛野炮兵聯隊第三大隊組成近衛混成旅團，由長綏田武少將任旅團長，開赴中國華南地區，先後參加了翁英作戰、賓陽作戰，其中近衛步兵第二聯隊進駐印支半島北部。
1940年，留守東京的近衛師團其余部隊近衛步兵第3、4聯隊緊急動員，開赴中國漢口，後進入廣東，並于1941年7月侵入印支半島南部。太平洋戰爭爆發後，近衛師團從屬于山下奉文的第25軍。參加了馬來半島、新加坡的一系列戰事。
近衛師團作爲日本最爲精銳的師團，不論是兵員質量還是武器裝備等都是冠絕日本諸師團的，想想也理所當然，就像中國古代所謂的禁軍或禦林軍，當然是選拔最優秀的士兵和配備最優質的武器裝備了。
但是作爲保護日本天皇的親衛軍，思想上的“忠君”當然格外重要的；可是偏偏就是這麽一支天皇禦軍，不僅在二戰時期並沒有立下什麽功勞，而且在二戰末期還做了一件震驚日本全國的大事——兵變。
話說，在二戰末期，只剩下日本這一彈丸小國負隅頑抗了，北方蘇聯已經出兵東北，並全殲了全部關東軍，並准備登陸北海道；而美國也不斷發動“饑餓戰役”和“李梅火攻”，後來日本廣島、長崎相繼被美軍投下的原子彈摧毀。
經過漫長的討論後，天皇決定接受《波茨坦公告》，並將其通過瑞士和瑞典兩國通知美、蘇、中、英四大國。陸軍大臣阿南惟幾向陸軍省課以上軍官傳達禦前會議作出投降決策時，言詞中流露對主和派的憤懑，稱自已被逼接受“聖裁”。
他一手提拔的一批少壯派官佐立時沸騰起來，大吵大鬧，還有哭的，表示反對求和，甯願戰死，又大肆辱罵主和派。其中的代表者爲田中少佐、井田中佐、椎崎中佐，以及阿南的妻弟竹下中佐。
田中等少壯派趁此機會，在陸軍省防空洞秘密會議，策劃發動起義，掃除主和派的鈴木、東鄉、木戶，占領皇宮，把天皇“保護”起來，以武力切斷皇宮與主和人士的聯絡，促使天皇收回求和成命。
在1945年8月15日淩晨1點，兵變爆發，近衛師團很快就控制了日本皇宮；但是叛變僅僅存在了7個小時，就被平息了；這也是爲什麽阿南惟幾選擇破腹自殺的真正原因。