1926年7月，在中国共产党的领导和推动下，国民革命军在广州兴师北伐。经过两个多月的频繁战斗，至8月初打垮了直系军阀吴佩孚、孙传芳的主力，占领了长江中游的湖北、湖南和江西等省份。北伐军在攻克武汉、南昌后，兵分3路继续北伐，西路军沿平汉铁路北上，东路军矛头指向浙江，中路军沿长江东进。

1927年2月，北伐军独立二师陶峙岳团相继进抵祁门、黟县。入城之后，出示布告，宣传北伐。此后不久，祁门正式成立县党部执、监委员会，将全县分5个区党部，31个区分部。在撤离黟县之前，委派李因、徐季仙、张翼鹏帮助地方进行筹建国民党黟县党部的工作。

1927年2月，北伐军独立二师一营进入休宁，委派黄韻轩任休宁县长，宣布正式成立国民党休宁县党部，广泛发动群众，相继在四乡建立了工会、农会、商会、妇女会、学生会等群众团体。

1927年3月，北伐军独立二师毛炳文旅经太平县三口到达县城仙源。旅政治部主任李因与当地进步人士孙馥仙、焦鸣銮等，成立了国民党太平县党部筹委会，并相继成立了工会、农会、青年会等组织。

1927年2月初，北伐军第二军六师师长戴岳，党代表兼政治部主任肖劲光率领100余人从浙江沿新安江进入歙县。春节期间，在歙城天灵寺召开军民联欢大会，向群众宣布北伐军二军六师政治部秘书瞿朝杰任歙县县长，成立新政权。会后，北伐军又协助改组后的国民党歙县党部建立总工会、农民协会、青年联合会、妇女联合会等组织，开展反帝反封建斗争。

北伐军进入黄山，黄山各县建立的国共合作新政权的建立，使黄山的工农革命运动迅速高涨。农民、工人、妇女、青年、学生、商民等纷纷建立组织，并且向土豪劣绅展开斗争。1927年4月12日，蒋介石发动反革命政变，全国数以万计的共产党员和进步人士惨遭屠杀，徽州各县国民党县党部、农会、工会等组织在血腥镇压下逐渐解体，轰轰烈烈的工农群众运动转入低潮。第一次国共合作破裂。