1930年中原大战前夕，冯玉祥将其在甘肃、宁夏的部队调到河南参战，为控制后方，即委任苏雨生为宁夏骑兵第四师师长，留守宁夏平罗。苏雨生乘机扩军，不管什么人他都收编，中共陕北特委利用这一时机，动员和派遣了一批党员打入苏雨生的军队，开展兵运工作。
苏雨生部15团团长王子元与中共地下党员谢子长、刘志丹既是老同学，又有“把兄弟”的特殊关系。王子元担任该团团长，答应掩护地下党，让共产党员张东皎任副团长。这年夏天，王子元的部队从宁夏盐池县开到靖远、兰州一带驻扎，李罕言、苏醒民、吕振华等一批共产党员，同张东皎一起随王子元的部队来到靖远。
王子元部在靖远李家堡成立了学兵队，陕北来的共产党员和进步青年集中学兵队学习，并进行革命宣传和军事训练。在学兵队里，张东皎任队长，高岗任副队长，李树林任司务长，张秀山任地下党支部书记。靖远敷文小学教员王儒林、张国威等本籍青年，也投身部队并加入中国共产党。随着党员人数的增加和工作需要，还秘密建立了党的特别支部，张东皎任书记，高岗任副书记，委员有李树林、黄育华、薛应昌等。
1931年8月，王子元部的中共秘密组织特别支部扩建为特别委员会，受中共陕西省委直接领导。特别委员会下设校官、士兵、教导队三个支部，校官支部由李罕言任书记，孙作宾任委员。石子健任士兵支部书记，苏醒民任教导队支部书记。在党员比较集中的旅部二团，组建成立了团党委，张东皎任书记，牛华东任副书记。该部时有共产党员近百人，尉官以上的青年军官基本上全是共产党员，人数达20余名。他们利用每天在县城箭道（今鹿鸣园旧址）进行军训的机会，向士兵讲授马列主义和抗日救国道理，宣传谢子长、刘志丹领导的陕北红军为穷人谋利益的事迹。这些活动的开展，为发动靖远兵变和组建游击队奠定了一定的思想基础，也带动了整个兰州地区党的工作的恢复和发展。
1931年10月，陕西杨虎城部孙蔚如师进驻兰州，孙蔚如任甘肃宣慰使。蒋介石为加强对甘肃的统治并牵制孙蔚如，派邵力子出任甘肃省主席，同时在兰州建立了西安绥靖公署驻甘行署。1932年初，邓宝珊出任驻甘行署主任。共产党员孙作宾、李玉清、常黎夫等以国民党甘肃宣慰使点验小组的名义，从兰州赴靖远王子元部，将其改编为警备第三旅，同时秘密开展兵运工作，联络该部队中的中共党员，准备举行靖远兵暴。