赤卫队　
民国18年9月下旬（1929年），中共霍山县委为加强包家河武装暴动力量，派王仕斌、汪洋回返回家乡包家河组建赤卫大队，队部设于汪氏宗祠，大队长王仕斌，下设3个中队9个分队，共100余人。配有枪枝、刀矛等武器150余件。
民国19年1月（1930年），中共党员王效亭、胡祥仁决定在头陀河举行武装暴动。28日，成立头陀河赤卫大队，下设9个中队，共700余人。胡祥仁、蔡世钊任正、副大队长。同年4月18日，黄尾河武装暴动爆发，20日，蔡世钊在莲花地组织千余名群众集会，宣布成立黄尾河赤卫军总指挥部，总指挥蔡世钊。下设3个中队，共300余人，配轻机枪1挺、步枪14枝、土枪80枝、刀矛200余件。
　　民国19年3月28日，霍山县南乡苏维埃政府于青天畈汪氏宗祠成立，建立赤卫大队、农会、妇女会、儿童团等组织。王世杰任赤卫大队长，汪中长、汪全节任中队长。不久，苏维埃政府和大队部移至道义王氏宗祠，国民政府军入境清剿，赤卫大队转战主簿原，9月赤卫大队被解散。
　　同年5月2日，中共潜山县委和红军第34师领导人在衙前召开会议，决定扩大赤卫队武装，选派对农运有经验的干部分赴各区乡，动员青壮年参加赤卫队，全县赤卫队发展至30多个，队员达4100余人。赤卫队为保护苏区，配合红军作战起了重要作用。红军失败后，各地赤卫队组织逐渐消失。
　　摸瓜队
民国18年11月，中共潜山县委为做好武装暴动准备，开展农民运动，分赴响肠、无愁、浒漕、沙村等地组建秘密武装——摸瓜队，即以民间摸秋形式，摸土豪劣绅脑袋瓜，初有3条枪，后队员发展至73人。请水寨暴动后，成为红军的中坚力量。
　　便衣队
民国23年秋（1934年11月），中共皖西北道委及舒霍潜桐4县特委，在岳西境内马家畈组建1个便衣武装工作大队5个小队，大队长汪礼廷。第1小队活动于松山寨，第2小队活动于杨旗岭，第3小队活动于南田，第4小队活动于板舍、张山沟，第5小队活动于管山。
　　民国24年5月6日（1935年），红二十八军和皖西特委在黄尾河召开会议，认为要建立国民党统治下的秘密组织，最佳方式就是发展便衣队。经过重新组建，境内红军便衣队发展为9支：
　　1分队，队长陈彩林，指导员宋青云，17人，长短枪12枝，以大岗岭为中心，活动于凉亭坳、石门山、陶家河一带，在大岗岭石壁沟办“山林医院”，搭草棚10余间，有医生2名，为红军养护伤病员，并在金龟畈设立红军小学1所。
　　2分队，队长先后为王子清、董升平、鲁工人、徐海珊，全队23人，长短枪13枝，以鹞落坪为中心，活动于包家河、桃花冲、宝纛河、青天畈、河口寺一带，在鹞落坪辟有“山林医院”，有草棚20余间，医生3名，另为红军设立被服厂、修械所和商店，经营红军需要的电池、胶鞋、食盐、药品等。
　　3分队，队长汪忠晏，指导员先后为于海清、刘定武，30余人，长短枪11枝，以马家河为中心，活动于黄尾河、孙家畈、黄羊殿一带。
　　4分队，队长先后为汪大清、陈明江，指导员黄子香，24人，长短枪21枝，以枯井园为中心，活动于主簿原、南田、沈桥一带。在沈桥建地下商店秘密与红军通讯联络。
　　5分队，队长胡云亭，10余人，长短枪5枝，以小河南为中心，活动于前河、田头畈、茅山、五河一带，在小河南设有“山林医院”和修械所。
　　6分队，队长黄荣清，22人，长短枪18枝，以沙村河为中心，活动于湖响、黄花冲、马园寨、羊河、寨河、横河一带，在沙村河设有“山林医院”和修械所。
　　7分队，队长周昆，13人，长短枪7枝，以后河山为中心，活动于和山庄、汤池畈、石关口一带，为红二十八军筹集大量物资。
　　8分队，队长夏应龙（又名夏云），14人，长短枪6枝，以毛尖山为中心，活动于天柱山、水吼岭一带，并在毛尖山“美女梳妆台”山林设有被服厂。
　　9分队，队长蔡炳臣，指导员郑位发，有17人，长短枪9枝，活动于妙道山一带。
    此外，各地区还自发组织13支小便衣队，分别活动于袁河、松山寨、南田、管山、总铺河、沙村河、寨河、黄花冲、马园寨、北山、响山、东元、五河等地。
　　便衣队控制的中心地区，是红二十八军开展游击斗争的根据地，便衣队为红军补充兵员，安置伤病员，供给军需。民国26年9月17日（1937年），共有200多名便衣队员随红二十八军开赴湖北黄安七里坪，整编为新四军第4支队。
　　游击队
民国18年12月（1929年），由王效亭领导在湖响、沙村、响肠、无愁成立游击队，下设3个大队，169人，长短枪21枝，至19年2月4日，整编为中国工农红军潜山独立师。
　　民国20年春（1931年），因头陀河暴动失败，胡祥仁、胡锡烺率领南乡赤卫总队与其他赤卫队合并整编为霍山游击师，师长胡祥仁、政委胡锡烺，全师300余人，长短枪101枝。
　　民国19年（1930年）7月，共产党员刘正北与蒋霄雨、蒋同学、蒋少明、蒋贻明、刘一书、蒋同中等红军战士在天堂地区与敌人激战中突围，蒋同中不幸中弹牺牲。他们在西水岭蒋同中的坟墓前宣誓成立游击队。为了纪念牺牲的蒋同中烈士，他们将游击队命名为“七人游击队”，刘正北任游击队长。
民国21年3月（1932年），潜北县委成立后，县委书记刘正北，委员刘寅宾、刘汝聪、叶朗清、王云山在沙村杨湾大木星召开会议，决定组建“七人游击队”，队长储炳言，指导员刘正北，队员有蒋霄雨、蒋少明、蒋贻明、蒋同学、刘一书。
民国21年2月（1933年），刘正北率七人游击队攻打五河、岩河地主民团，缴获步枪9支，子弹200余发。3月下旬，将七人游击队扩编为“沙村游击队”，队员有29人，队长储炳言，指导员刘正北。
1934年11月，红二十五军便衣武装工作大队在马家畈成立,大队长汪礼廷（河南商城人），军政指导员彭基伍（河南商城人），59人,隶属中共四县特委。1935年2月改称舒霍潜边区游击大队，隶属中共皖西特委。
民国23年冬（1934年12月），中共潜山工作委员会在毛尖山组建潜北游击队，刘学成（霍邱人）任队长、吴汉卿（岳西人）任指导员，共40余人，长短枪15枝。1936年1月，中共皖西特委在毛尖山扩建潜北游击队，指导员吴汉卿，队长刘学成，共60人、15支枪。1936年3月，潜北游击队编入红二十八军六路游击师。
1935年3月7日（民国24年），中共皖西特委从二四六团抽调出一部分人员和痊愈归队的伤病员以及岳西籍青年农民共200余人，在霍潜边境的马家畈（现属岳西县石关乡）成立第四路游击师，杨振操任师长，胡学美任政委，共350人，有长短枪85枝。活动于舒（城）霍（山）潜（山）太（湖）四县边区（岳西境内），在敌据点之间，打击反动民团及地主武装，镇压土豪劣绅，筹粮筹款。
1935年3月30日（民国24年），军政委高敬亭率部在沙村河宿营，与潜山县委取得联系。高敬亭命令红二十八军教练长张作汉和2名班长留在沙村河，组建1支便衣队，并且扩大沙村游击队。3月31日，潜山县委在沙村河回龙庙将沙村游击队扩编为“皖潜游击大队”，张作汉任大队长，刘正北任指导员，红二十八军发给游击队50多条步枪、2箱子弹。当地青年参加皖潜游击大队的有80多人，4月发展到180多人，长短枪80枝。皖潜游击大队成立后，在沙村河、来榜河、五河、菖蒲一带打土豪劣绅，打贪官污吏，进行“扒粮”斗争。
1935年5月中旬，第4路游击师在柳家畈与皖潜游击队会合，整编为皖潜独立营。同年6月上旬，第1、2路游击师先后从赤城、赤南转移至境内。7月2日，高敬亭在店前河将第一、二路游击师编入红二十八军。
1935年7月上旬，第四路游击师与皖潜独立营合并，改称“英霍潜太四县游击师”，傅以民任师长，刘正北任师政委，下设3个连和1个手枪排，共计300多人。1936年1月（民国25年），大部分编入红二十八军，留下1个连和手枪排在四县境内活动。7月，手枪排编入蕲黄游击队。
　　1940年冬（民国29年），鹞落坪抗日游击队成立，队长朱荣树，全队25人，枪7枝。30年春，沙村人民抗日游击队成立，全队31人，枪5枝，由王志、王宜春领导，活动于五河、沙村一带。同年5月，金山人民抗日游击队成立，全队21人，枪5枝，队长王仁山。3支游击队先后遭县自卫队“清剿”解散。
　　民国36年3月，皖西支队在潜山官庄成立潜岳太游击大队，大队长宁道贵，教导员张国平，副教导员张子玉。下设4个小队：撞钟小队20余人，水吼岭小队30余人，三里畈小队40余人，新庵小队20余人。不久，编入皖西支队。
　　岳西人民抗日自卫团　
1938年3月（民国27年），新四军第4支队司令员高敬亭派秘书储道政回岳西，会同吴汉卿于8月13日正式组建，团长吴汉卿，政委储道政，下设4个营，第1营营长刘云飞，第2营营长吴泽州，第3营营长王凤州，第4营营长王良。9月，该部大部分编入新四军第4支队，吴汉卿率余部在原地坚持斗争。民国30年2月，吴汉卿在和山庄利用保甲长，发动群众，再次组建，开辟抗日根据地。
六县联防指挥部　
1940年8月（民国29年），六县联防指挥部在岳西县田头成立，领导人蒋凤山，所属40人枪，后被迫解散。
　　岳西县大队　
1947年9月下旬（民国36年），岳西县大队成立。大队长由县长李正乾兼任，副大队长张云飞，教导员刘烈。下设5个中队和5个区干队。
　　1948年春（民国37年），太岳县大队成立，大队长黄抑强(后为赵元兴)，政委由县委书记李景堂兼，副大队长张智云，副政委侯振江。下辖3个连。
　　　1948年9月下旬，县委和县政府机关驻汤池畈扩军整编，充实县大队，大队长严甲桥。
　　岳西县独立团　
1949年2月（民国38年），岳西县大队改编为县独立团，团长严甲桥，政委滕野翔。下设3个营。成立后，积极配合人民解放军二十八师和安庆警备区第10团剿匪。1950年10月，改编为中国人民解放军岳西县人民武装总队。
　　岳西县民兵组织
　　岳西县于民国36年9月建立县爱国民主政府后，县区乡均健全人民武装组织。县设大队，区设区干队，村有武装小组。县大队、区干队的人员均脱产，村武装小组一边生产，一边兼做武装工作。37年，全县共有武装民兵1955人，至1949年，民兵工作由县独立团负责，全县武装民兵发展至4350人。
　　1950年10月，岳西县民兵工作开始由县人民武装部领导。1952年，中共中央颁布《民兵组织暂行条例》，用法律形式固定民兵制度。同年12月，全国实行“普遍民兵制”，全县有90％以上的适龄青年加入民兵组织。
　　1958年9月29日，毛泽东主席发出“大办民兵师”指示，县建民兵师，下设6个团，共有102540名适龄男女公民参加民兵，占总人口的40％，其中基干民兵21579人，县长陈良玉兼任师长，县委第一书记成一波兼任第一政委，县兵役局局长吴皋鹤兼任副师长，县兵役局副政委王焕兼任民兵师政委。
　　1959年，根据中共八届六中全会精神，全县民兵以生产单位的民兵实数为准，编为2个民兵师8个团，共112147人，其中基干民兵24000人。
　　1961年，对全县民兵工作进行整组，将身体健康的16至40岁的男性公民、16至35岁的女性公民都编入民兵组织，其中16至30岁的男性公民和16至25岁的女性公民编入基干民兵。公社建团，生产大队建营，生产小队建排，县直建连。全县编为1个师54个团，共计73450人，其中基干民兵10340人。1962年2月，毛泽东主席发出“民兵工作要做到组织落实、政治落实、军事落实”的指示，从此，每年春、冬两季都要进行民兵组织“三落实”整顿工作。
　　1969年3月，北疆珍宝岛自卫反击战后，为适应战局变化，全县组建基干民兵独立团，共有2500人，配备六○迫击炮、八二迫击炮、12·7高射机枪、三八式步枪等武器。
　　中共十一届三中全会后，为加速经济建设，减轻国家和人民经济负担，中共中央1981年8号文件规定，对民兵组织进行全面调整改革，缩小年龄范围，减少人数，提高质量。岳西县将基干、武装基干、普通3种形式改为基干与普通2种形式。县与公社分别取消民兵师、团组织，改为公社基干民兵连、大队民兵营和基干民兵排(班)，民兵年龄为18至35岁，比原来缩小7岁年龄，其中男性基干民兵为18至28岁，女性为18至23岁。机关、事业单位撤销基干民兵组织。同时，进行民兵预备役登记工作，18至28岁的男性基干民兵服一类预备役；18至35岁的普通民兵服二类预备役。一类预备役的28岁以下的复退军人全部编入基干民兵，二类预备役的29至35岁的复退军人全部编入普通民兵。
　　1985年，岳西县民兵人数由1980年的91600人减至36401人。其中基干民兵由45804人减至6848人，普通民兵由39367人减至29553人。
　　军事训练
1949年建国后，岳西民兵武器装备由解放初期的各种杂牌武器，逐步更新为国产化的自动、半自动武器。训练也由单一步兵训练发展为地炮、高射机枪、通讯、侦察等多兵种科目训练。
　　1952年起，贯彻“劳武结合，以劳养武”的方针，全县每年进行一次民兵军事、政治训练。县人武部每年在三四季度分别用半个月或1个月的时间培训乡民兵营长和专业技术人员，乡每年以10至15天的时间组织民兵训练。“文化大革命”初期，民兵武器全部上交，训练停止。1969年，重新组建训练。1980年，训练方法大都采用以大队为单位或公社与大队相结合分散训练，分上、下年度组织实施。
　　1976年10月，县人武部在店前东方红公社举行代号为“岳东1号”反空降实弹演习，以店前区两个排、白帽区女子班、来榜区花墩公社“六○炮”班、汤池区硃屋公社重机枪班为主要兵力，参加演习共有20个民兵连3000余人。演习期间，安庆军分区及太湖、英山等县武装部派员参观。
　　1978年3月，安庆军分区司令员高超带领工作组考核白帽公社高墙大队女子民兵班的“射击、刺杀、班进攻战术”等项目，结果成绩全优。1979年11月，该班专为安庆地区民兵训练工作会议作射击表演。1980年度，被县人武部荣记集体三等功，被省妇联命名为“三八红旗先进集体”。
　　1981年后，民兵训练以公社为单位采用周期(2年为1周期)训练，民兵专业技术人员、民兵营长和专职武装干部集训，分别由县人武部和军分区组织实施，根据实际情况分类集训或每年集训一次。至1985年，全县共训练民兵4453人。
　　参战参建
1949年4月上旬（民国38年），为支援人民解放军渡江，岳西县支前民工组织4个担架大队：汤池、响肠为第1大队，五河、菖蒲为第2大队，主簿、头陀、来榜为第3大队，店前、白帽为第4大队，其中大多数是武装民兵。4月17日，全县民工在潜山梅城集中，4个大队整编为2个大队，第1大队队长储茂贵，第2大队队长徐高成，各大队下设5个中队，共有民工800余人，担架300余副。全县人民节衣缩食，计筹大米574454公斤，猪油9236公斤，食盐9566公斤，柴草112305公斤，军鞋22067双，雨伞6066把。5月3日，第2民工大队随人民解放军第二野四兵团十三军追歼国民政府军六十八军至江西弋阳镇。战场上，民工大队积极为第十三军运输军用物资和抢救伤员。胜利后，第十三军党委向第2民工大队赠送“向英雄的岳西民工致敬”的锦旗1面。授予第一大队队长储茂贵手枪一枝。
　　1958年10月，全县在“以钢为纲，为钢而战”的大炼钢铁生产形势下，县委、县政府和县人武部共组织37个民兵团152个民兵营，共87609人加入炼铁大军。
　　1960年12月，全县共发动1036名民兵配合人民解放军和公安干警，平息石关地区武装暴乱，其中20名暴乱分子为民兵抓获。
　　1960年6月，为支援大型工程建设，县成立建筑民兵团，下设2个营共6000余人。至1962年，建筑民兵团先后组织民兵万人次修筑舒城至岳西、来榜至鹞落坪、河图至溪河3条公路，总路程达117公里。同时，修建了店前狮子口大堰。
　　1983年，岳西县人武部始办“青年民兵之家”。1984年在全县推广，并以村为单位建“家”。至1985年，全县已有80％以上的村建立“青年民兵之家”。