大革命失败后，在党的八七会议精神指引下，鄂豫皖三省党组织领导人民从血泊中奋起，高举土地革命战争和武装斗争的旗帜，反抗国民党反动派的屠杀和进攻。1927年11月，黄麻起义打响了鄂豫皖地区武装反抗国民党反动派的第一枪，组建了红11军第31师（师长吴光浩），创建了鄂豫边革命根据地。1929年11月，近万名农民手持大刀、长矛等迅速攻占了六安独山镇。此后，霍山的西镇等地相继举行了农民武装起义。六霍起义组建了红11军第33师（师长徐百川）。到1930年4月，以六霍为中心的皖西各地的工农武装割据斗争，发展到六安、霍山、霍邱、英山、潜山五县相毗连的广阔区域，初步形成了东抵淠河，西接商南，南至金家铺、水吼岭，北迄白塔畈、丁家集，南北200余里，东西100余里，人口40多万的皖西革命根据地，成为鄂豫皖革命根据地的重要组成部分。

随着革命形势的蓬勃发展，把三块苏区连为一体，实现党在大别山区域的集中统一领导，汇集三支红军的力量，步调一致地开创工农武装割据的新局面，已势在必行。因此，根据中共中央指示，中共鄂豫皖边特别委员会（郭述申任书记）、中国工农红军第1军（许继慎任军长）、鄂豫皖边区苏维埃政府（甘元景任主席），先后于1930年3月、4月和6月成立。至此，鄂豫皖革命根据地正式形成。

1931年5月，中共中央鄂豫皖分局成立，张国焘任书记兼军委书记。11月，红四方面军成立，徐向前任总指挥，陈昌浩任政委，下辖红4军和红25军。1932年1月，中共鄂豫皖省委成立，沈泽民任书记。根据地军民先后粉碎敌人三次大“围剿”，特别是1932年春取得苏家埠战役一举歼敌3万多人的空前大捷。至此，皖西革命根据地扩大到东起舒城附近，西抵固始县郭陆滩，南至太湖、宿松，北濒淮河南岸。在此广大区域内拥有六安、霍山、商城、红山（英山县）、五星、红城（今霍邱）、固始、六霍等8个县级政权，形成了鼎盛时期。

由于张国焘推行王明的“左”倾冒险主义的政策，在战略上发生严重错误，致使红军未能打破敌人的第四次“围剿”，根据地大部丧失，红4方面军主力被迫于1932年10月战略转移，西征川陕。

红4方面军主力西征后，中共鄂豫皖省委重组红25军，在吴焕先、徐海东等领导下继续坚持保卫根据地的斗争。1934年11月，中共鄂豫皖省委率领红25军开始长征，于1935年9月胜利到达陕北。

红25军转移北上后，留守的部分武装重建红28军，在高敬亭等领导下，坚持了艰苦卓绝的三年游击战争。抗战全面爆发后，红28军被改编为新四军第4支队，踏上了抗日征程。

鄂豫皖革命根据地是全国六大革命根据地中规模较大、坚持时间最长的。根据地中心区域东接江淮平原，西扼平汉铁路，南濒长江，北带黄河，并与湘鄂西、湘鄂赣革命根据地互为犄角，同中央革命根据地南北呼应，战略地位十分重要。革命红旗始终在大别山屹立不倒，并在斗争中积累了丰富的经验，造就了大批革命干部，对中国革命的胜利作出了重要贡献。据统计：从1955年至1964年，鄂豫皖三省被授予少将以上军衔的有570人，占当时全国将军总数的35.5%，仅皖西籍的将军就有108人，其中六安县独山镇就走出了16位将军，被称为“一镇十六将，独秀大别山”；红安、大悟、新县、金寨、六安等5个县被誉为将军县，占全国9个将军县总数的过半；新中国成立前，仅六安就有30万人为了国家的解放和人民的幸福，献出了宝贵的生命。