夏、商时期武都属氐人居住地。西周、春秋战国时为羌氐民族。先秦已有道（县）级建置。秦代属白马氐族人。西汉属益州刺史部武都郡所辖。东汉隶凉州刺史部武都郡辖。三国，属蜀汉益州武都郡辖地。西晋，属秦州武都郡统之。东晋、十六国，武都郡先属仇池国，后由前秦政权统治。南北朝，公元448年，北魏置武都镇（掌控一方军事，镇治石门，即今城关旧城山），辖武阶郡（郡治翫当，即今大安庙附近）、修城郡等数郡。约公元497年，北魏武都镇、武阶郡属梁州。西魏，约公元546年属南秦州。北周，约公元572年改称武州（与武都郡同治今旧城山），领11县。隋朝，约公元612年，武都郡（治将利，即今旧城山）辖将利、建威、复津、盘堤、长松、曲水、正西诸县。唐代，约741年武州属陇右道；约公元820年属吐蕃。唐景福元年（公元892年）武州更名为阶州（州治仍旧城山）。五代十国，约公元908年，阶州为岐统之。约公元943年阶州由后晋统治。约公元959年。属

后周，仍称阶州。约公元924年和公元954年，阶州分别为前蜀和后蜀管辖。北宋，公元1111年间，阶州（州治福津，即今城关旧城山）隶属秦凤路。南宋，约1142年，阶州属利州西路。元代，约1260年阶州属陕西行省。1270年州治移柳树城（今角弓柳树城。）元末州治复移坻龙岗（今旧城山）。明洪武四年（1371年），阶州治所由旧城山移武都砖城（即今武都区政府驻地）。清朝，阶州隶属甘肃。雍正七年（1729年），阶州升为直隶州，直隶于甘肃布政使司，领文、成二县