代县历史悠久。据文物部门考古发现，早在新石器时期，这里就有人类繁衍生息。据乾隆《代州志》载，代县西周时属并州，春秋期间为晋国土地，三国分晋后属赵国。秦统一六国后，天下设立３６郡，代县属太原郡。秦王政二十六年，即公元前２２１年，代县始建县，名曰广武县，城址在今日雁门关下的古城村。北魏熙平年间，即公元５１６年，广武县治及雁门郡治所才移往上馆城，即今日代州古城。

西汉时代县为并州太原郡广武县。汉高祖十一年，即公元前196年，汉高祖封其次子刘恒为代王，太原郡改为代国，广武县属代国管辖。王莽纂汉后，广武县改称信桓县。东汉广武县改属雁门郡，隶并州。

三国时归魏。黄初元年，即公元220年，雁门郡南度勾注，由阴馆县迁置广武县城，领八县：广武、崞、汪陶、平城、繁峙、俊人、原平、马邑。西晋因袭魏制。

十六国时期，先后被汉、后赵、前燕、前秦、西燕、后燕等六国更迭占有。

晋孝武帝太元二十一年，即公元396年，广武县入北魏，初属司州，后属肆州。北魏孝武帝永熙三年，即公元534年，魏分东西，雁门郡广武县属东魏。北齐时，仍称广武县，为雁门郡治所。太象元年，即公元579年，肆州治所由九原，即今日忻州市移至上馆城，上馆城成为州、郡、县治所。

隋开皇五年，即公元585年，废郡，并改肆州为代州，十八年，又以广武县名犯太子杨广讳，改称雁门县。大业初年，改代州为雁门郡，隶冀州，领雁门、繁峙、崞、五台、灵丘五县。唐武德元年，即公元618年，复改雁门郡为代州。天宝元年又改代州为雁门郡。乾元元年又改雁门郡为代州，领雁门、崞、繁峙、五台、唐林五县，隶河东道。

五代时期先后归后唐、后晋、后汉、北汉所辖，皆称代州雁门县，隶河东路。北宋仍称代州雁门县，隶河东路，领雁门、崞、五台、繁峙四县。金仍为代州雁门县驻地，隶河东北路。元中统四年，即公元1263年，取消雁门县，直称代州。至元三年，隶九原府，辖崞、代、台、坚四州。次年废九原府，代州复隶太原路。

明洪武二年，即公元1369年，降州为县，第一次有代县之名。八年后复升为州，领五台、繁峙、崞三县，隶太原府。清初，称代州，隶属太原府。清雍正二年，升为直隶州，直属山西布政使，领五台、崞、繁峙三县。

民国元年，废州，称代县，直属山西省。三年置雁门道，代县属之。十六年废道署，直属山西省。二十六年九月，山西划为七个行政区，代县属第一行政区。二十七年一月十五日，晋察冀边区行政委员会成立，代县属晋东北政治主任公署。二十八年秋，代县属晋东北行政督察专员公署。民国二十九年上半年，属晋察冀第一行政督察专员公署。三十年初，第一行政督察专员公署设河北办事处。春夏之交，代县以滹沱河为界，北与山阴县南山地区合并，称山阴县，南括五台县十三、十四区，称代县，均属河北办事处。三十二年十一月至三十四年秋，代县南山部分地区与东崞县合并为崞代县。三十三年十月，河北办事处撤销，代县改属晋察冀边区冀晋二专署。同年冬，山阴、代县合并为山代县，为时两月复分。三十四年秋，代县改属冀晋五专署。三十五年八月，划归晋绥边区六专署。三十七年二月，属晋绥雁南专署。

新中国成立后，属山西省忻县地区专员公署。1958年12月，繁峙、代县合并为繁峙县，属晋北专署。1961年繁代分治，仍属忻县地区专员公署。1967年2月，属忻县地区革命委员会。1978年，属忻县地区行政公署。2001年忻县地区撤地设市，代县属忻州市至今。辖6镇11乡：城关镇、阳明堡镇、峨口镇、枣林镇、聂营镇、滩上镇、峪口乡、新高乡、上磨坊乡、胡峪乡、上田乡、分水岭乡、八塔乡、交口乡、白草口乡、西窖乡、胡家滩乡。

2001年，代县撤乡并镇，由原来的17个乡镇调整为6镇5乡：上馆镇、阳明堡镇、峨口镇、聂营镇、枣林镇、滩上镇、新高乡、峪口乡、磨坊乡、胡峪乡、雁门关乡。