解蕴山，1905年生于河北省大名县谢儿寨村。1923年考入直隶省立第七师范学校(后改为河北省立大名七师)第二班就读。大名七师是由当地中共党组织领导的一个进步学校，校长谢台臣、教务主任晁哲甫等人，都是中共党员。在师长们的革命思想影响下，解蕴山阅读了大量进步书刊，他向往革命，向往共产党，并把家中给他的生活费资助了学校党组织。1927年春，解蕴山加入了中国共产党。
就在1927年这一年，解蕴山家中遭到土匪抢劫，长兄解瑛被打死，祖母等数人被土匪绑架，父亲解佩玉被殴打恐吓，精神失常。解蕴山被迫中途辍学。回家后，他一面料理家务，一面向农民宣传革命思想。1929年初，他被调到中共大名县委担任领导工作。在严重的白色恐怖下，他临危不惧，机智沉着地同敌人进行顽强的斗争。同年秋后，军队包围大名第七师范学校达5天5夜。为了保存党的力量，挫败敌人的镇压政策，解蕴山四处奔走，组织社会各界援助大名七师的斗争。后来，他曾两度回校担任会计工作，在团结进步学生和教职员工、开展抗日救亡活动中发挥了重要作用。
1935年7月，政府与日本帝国主义签订了丧权辱国的《何梅协定》，冀东一带主权丧失殆尽，中华民族的危机日甚一日，解蕴山满怀悲愤，在大名七师校园发表了“救亡救国，匹夫有责”的演说，唤起青年们奋起救亡图存。1937年春解蕴山回到家乡农村，组织爱国团体秘密抗日十人团，准备进行长期的抗日斗争。
大名城自古以来为北方重镇，具有重要战略地位。卢沟桥事变后，军队向南溃败，冀南一带处于极端混乱状态，土匪蜂起，仅大名城北就有“天下第一军”等数股游杂武装。这些游杂武装肆意向各村摊派粮款、枪枝，闹得地方上人心惶惶，民不聊生。当地知识分子有的携眷南逃;有的剃光了头，脱去学生装，扮成农民在乡下隐蔽起来。在这内忧外患的严重时刻，解蕴山不顾自己家庭的安危，挺身而出，利用各种社会关系，积极宣传群众，组织抗日救亡团体，在大名、广平、馆陶等县的冀鲁边境地带建立起抗日救国会。从1937年3月至翌年3月，在短短半年的时间里，解蕴山曾3次试图建立抗日武装，但由于没有经验和顽固派的破坏，都失败了。个别人有些心灰意冷，对坚持抗战失去信心，解蕴山笑着鼓励大家说：“只要我们有决心，不气馁，再接再励，就一定会成功。”他不避艰险，坚持工作，终于组建了杨桥自卫团，又把杨桥周围的会道门——“南方离”的数千人武装争取过来，组成地方上一支举足轻重的武装力量，使各方土匪不敢入境骚扰，稳定了社会秩序，受到当地群众的拥护。