咸宁六年（280年）三月，灭吴，今境内仍为陵阳（仍治陵阳镇）、临城（仍治临城）2个县地，属扬州（治建业，今南京市）丹阳郡（治宛陵，今宣州市区）。太康二年（281年），2个县改属扬州宣城郡（仍治宛陵）。三年，扬州治建业改称“建邺”。建兴元年（313年），建邺改为“建康”。

丁丑年（317年）三月，建东晋，今境仍为陵阳（仍治今陵阳镇）、临城（仍治故临城）2个县地，属扬州（治建康，今南京市）宣城郡（仍治宛陵，今宣州市区）。东晋初在古丹阳城（今当涂县丹阳镇）侨置定陵县，后在今县境与铜陵、南陵3个县交界的丁桥（古定陵乡）、竹阳、木镇乡及今南陵县丫山、河湾乡及今铜陵县部分地区侨置定陵县属襄城郡。咸和四年（329年），宣城郡改属豫州（治芜湖，今为市）。咸康四年（33年），为避杜皇后讳，改陵阳县为广阳县。兴宁初（约363年），宣城郡改治芜湖；不久还宛陵。宁康二年（374年），定陵县改属上党郡（侨治芜湖）。不久，废上党郡，定陵县改属淮南郡（侨于湖，今芜湖县王诎乡）。义熙九年（413年），淮南、宣城郡改属扬州（治建康，今南京市）。

元熙二年（420年）六月丁卯，宋代晋，今境仍为扬州（仍治建康，今南京市）淮南郡（治于湖，今芜湖县王诎乡）定陵县（仍位今丁桥乡）、宣城郡（仍治宛陵，今宣州市区）临城（仍治故临城）、广阳（仍治今陵阳镇）3个县分领。大明三年（459年）二月乙卯，改扬州为王畿。五年九月甲戌，宣城、淮南郡改属南豫州（治姑孰城，今当涂县城关镇）。六年三月乙巳，宣城郡改治姑孰城，定陵县属之。八年六月戊寅，定陵县复属淮南郡（治姑孰城），宣城郡复治宛陵。泰始二年（466年）九月，2个郡改属扬州（仍治建康）。九月壬辰，2个郡改属东豫州（治历阳，今和县历阳镇）。三年五月辛丑，2个郡改属扬州。五年二月丙申，2个郡改属南豫州（治宛陵）。六月壬午，2个郡复属扬州七年，2个郡改属南豫州（治历阳）。