始兴原系华夏古陆， 近年在马市挖掘发现中生代白垩纪恐龙脊椎骨化石和恐龙蛋化石（最多一窝达35个，1989年前为世界所罕见）。据考，约6000多年以前，始兴以有先民生息繁衍。
始兴，周以前属南野地，春秋属百越，战国属楚，秦属南海郡，汉属豫章·庐陵郡。

三国吴·永安六年（公元263年），拆南野地置始兴县，“始兴”一名沿用至今。

孙皓甘露元年（公元265年），以桂阳南部设始兴郡，始兴县属始兴郡；晋属广州；南朝·齐曾为正阶县；唐改郡为韶州，始兴属韶州；南汉置雄州，始兴属雄州；元改“州”为“路”，始兴属南雄路；明改“路”为“府”，始兴属南雄府；清又改“府”为“州”，始兴再属南雄州。

民国成立后，1912年，地方政权为省县两级建制，始兴县隶属广东省；1914年，省县之间设“道”，始兴属岭南道；1920年，始兴属北江善后公署，北江绥靖公署；1936年，始兴属广东第二区行政督察专员公署；1948年，始兴复为广东省直辖。

1949年9月25日，始兴解放，始兴县人民政府正式成立，属北江临时人民行政委员会；1950年1月，属北江人民行政督察专员公署；1952年11月，属粤北行政公署；1956年3月，属韶关专员公署；1958年12月10日，始兴与南雄合并为南雄县；1960年10月15日，始兴和南雄分县恢复为始兴县建制，属韶关地区；1983年6月，韶关地，市合并，以市辖县，始兴县属韶关市。

始兴，战略地位十分重要，自古为兵家必争之地。三国时吴国孙休设置始兴县，目的是利用始兴优越的自然条件和地理优势建立生产和军事基地。不到两年，孙皓又设始兴郡，中心仍是始兴，当时吴国将亡于晋，孙皓此举，用意明显，旨在固守挣扎。南北朝，梁，始兴郡太守陈霸先，也以始兴丰富的粮食和林木资源作为大后方，屯兵始兴，进击梅关，夺取江西，占领江南，终成帝业。

在漫长的历史进程中，由于战乱和自然灾害，中原人口四次南迁，始兴人的祖先大多从福建，江西迁入，生活在这块肥沃的土地，并相继建立了“五所”“五营”（始兴小平原的“五所”“五营”，是由于历代屯兵，贮粮的需要而成的。“五所”是指吴所，周所，罗所，沈所，黄所；“五营”是指千家营，上营，高营，刘镇营，外营）大大小小的卫星村，世代传衍，几经沧桑，成为了现在具有土著特色的客家人，同时也创造了始兴比较发达的农业和地方文化。