现韶关市境内地区，春秋属荆州、扬州，战国为楚国南疆，秦属南海郡地，汉初为南越北境。公元前111年设曲江县，包括现韶关市大部分地区，县治在今市区。公元265年三国孙吴设始兴郡，辖曲江、始兴等6县（范围大体上是今粤北地区），治所在曲江（在今市区）。南朝以后设州领郡今市境基本市属东衡州。

隋开皇九年公元年改东衡州为韶州，取州北名胜韶石山之韶字为州名。明清两朝在今韶关市区设关收税故俗称韶关。民国时期先后设广东省南韶连绥靖区、南韶连道、岭南道、南韶连行政区、北区、西北绥靖区、第二行政督察区等。

1949年9-10月，粤北各县陆续解放，11月广东省设北江临时行政委员会，辖韶关市、曲江县等17县市。1950年1月更名北江专区。1952年撤销北江专区，设立粤北行政区。1956年撤销粤北行政区，设立韶关专区。1970年专区更名地区。1975年11月韶关市升为地级市，辖曲江县。1983年地市合并称韶关市。