夏商周时期，兰州地区是羌戎族居地。秦始皇三十三年(前214年)，在今城关区东岗镇附近设榆中县，属陇西郡，这是兰州地区最早的行政建置。
    汉武帝元狩二年(前121年)，在今西固区西固城附近设金城县，属陇西郡。元鼎二年(前115年)汉朝在今永登县境筑令居以西塞，开始经营河西地区。元鼎六年(前111年)，徐自为打败羌人，攻占了河湟地区；汉在河西设置了酒泉郡、张掖郡，并改置令居塞为令居县(今永登县城附近)，还设置了浩亹县(在今永登县河桥镇附近)，允吾县(在今青海省民和县古鄯乡)，移民充实新县。汉昭帝始元六年(前81年)，以边塞辽远，为加强边地管理，从张掖、天水、陇西三郡各取二县，设置了金城郡，即取张掖郡的令居县、浩亹县，天水郡的金城县、榆中县，陇西郡的允吾县。袍罕县(今临夏县西南)，郡治允吾县。此后又陆续增设新县，在西汉末年金城郡共领十三县，即允吾、浩亹、允街(今红古区花庄一带)、令居、枝阳(今永登县苦水乡一带)、金城、榆中、袍罕、白石(今临夏)、河关(今青海省贵德县西南)、安夷(今青海省乐都县西)、临羌(今青海省湟源县)、破羌(今青海省乐都县东南)。其中浩亹、令居、枝阳、允街、金城、榆中六县在兰州市境内。此外，今榆中县东部属天水郡勇士县，今皋兰县属武威郡媪围县(今景泰县芦阳镇附近)。今兰州地区分属汉代金城、武威、天水三郡。
     汉光武帝建武十二年(36年)省金城郡，属县并人陇西郡。次年恢复金城郡，原辖十三县减为十县，白石、河关、袍罕三县划入陇西郡。东汉中期，河湟地区羌人反抗汉朝的战事扩大，汉朝于汉安帝永初四年(110年)将金城郡治迁至陇西郡襄武县(今陇西县)，延光三年(124年)迁回原治。汉灵帝中平元年(184年)冬，湟中义从胡北宫伯玉在河湟地区举兵反汉，杀金城太守陈懿、护羌校尉冷征，金城郡治又迁至榆中县。后河陇地区被韩遂割据势力占据，至汉献帝时被曹操击败，金城郡治迁回允吾县。建安十九年(214年)，从金城郡析置了西平郡。三国时，金城郡属魏凉州，辖榆中、金城、允街、浩亹、令居、枝阳、允吾七县，郡治榆中县。西晋沿置。
    西晋末年后，天下大乱，进人十六国时期，今兰州地区先后为前凉、前秦、后凉、南凉、后秦、西秦分据，行政建置变化很大，头绪纷繁。前凉分金城郡的令居、枝阳二县，又立永登县，合此三县立广武郡，辖地在今永登县境内。前凉金城郡领允吾、允街、浩亹、白土(青海省循化县黄河北岸)、金城、榆中六县，郡治榆中县，其中允街、浩亹、金城，榆中四县在今兰州地区。东晋孝武帝太元元年(376年)，前秦灭前凉，占领凉州金城、广武二郡。后凉领有广武、金城二郡，但未曾过黄河占有金城，榆中二县。后凉覆灭后，南凉占有广武，金城二郡。当时有两个金城郡：一个是前凉、后凉、南凉占有的金城郡，治所在黄河以北的允吾县；一个是西秦、后秦占有的金城郡，治所在黄河南岸的金城县。晋安帝义熙十年(414年)西秦灭南凉，占有广武、金城二郡，将黄河南北的金城郡合为一郡。次年北凉攻占西秦广武郡。西秦金城郡领允吾、金城、允固、白土、榆中、浩亹 六县，其中金城、榆中、浩 亹 三县在今兰州地区。太元十年(385年)，西秦在其辖境内置苑川等十二郡，筑苑川勇士城(在今榆中县境内)为都城，太元十三年迁都金城县(今西固城一带)，太元二十年(395年)复迁都苑川勇士城。
    北魏太武帝神  三年(430年)，吐谷浑占领西秦金城郡，未设郡县，北魏太延五年(439年)，灭北凉，吐谷浑惧而西奔，北魏占领今兰州地区。北魏在地方既设州、郡、县，为地方行政建置，又设军镇，军镇为军事建置，与地方行政建置互不相统：北魏在汉榆中县地设榆中镇。后在今榆中县境设子城县，属临洮郡。在广武郡，省并了原来的令居、永登、枝阳三县，置广武县，为郡治。还有金城郡及金城、浩亹、允街县，划金城县地于武始郡勇田县(今临洮县中孚一带)，勇田县地北至今兰州市黄河南岸。北魏孝明帝时，复置金城郡，郡治子城县，属河州。正光五年(524
年)，废榆中镇，复置榆中县，属金城郡。北周废榆中县，其地并入子城县。
    隋文帝开皇元年(581年)，置兰州，以皋兰山为州名，领金城郡，金城郡领子城县。开皇三年(583年)全国州郡多而辖地小，遂废郡存州，省金城、武始、广武三郡并人兰州；废勇田县，在今兰州城区置五泉县；改广武县为邑次县，寻又改为广武县。兰州领子城、五泉、广武、狄道四县，州治子城县。隋代的兰州大致在今兰州市辖境范围。隋炀帝大业三年(607年)，改州为郡，兰州改称金城郡，子城县改为金城县，为郡治；广武县先改称允吾县，后又改称会宁县，属武威郡。
    唐高祖武德二年(619年)，复置兰州，废金城县入五泉县，为州治；兰州领五泉、广武、狄道三县。后又改五泉县为金城县。唐玄宗天宝元年(742年)，改兰州为金城郡，改金城县为五泉县。天宝三载(744年)，析金城郡狄道县置狄道郡，金城郡领金城、广武二县。唐肃宗乾元元年(758年)，复改郡为州，金城郡复名兰州。次年，改广武县为金城县。唐代宗广德元年(763年)，吐蕃占领兰州。吐蕃在河陇地区沿袭唐朝制度，亦设州、县，州设大都督，县设都督，兰州亦当如是。
    五代至北宋初年，吐蕃衰落，在今兰州地区散居吐蕃部落。是时，党项族崛起，宋仁宗景枯三年(1036年)，赵元吴夺取河西，在原广武县境置卓  和南监军司(在今永登县红城镇)，为军事指挥机构。西夏为截断青唐(今青海省西宁市)吐蕃政权与宋的联系，又攻占兰州，还在今马衔山北麓修筑瓦川会城(今榆中县新营乡)、阿干城(今阿干镇)、康古城(今榆中县小康营)等。宋神宗元丰四年(1081年)，宋熙河经制使李宪率军收复兰州。为防御西夏进攻兰州，宋军在黄河北岸筑金城关。宋徽宗时，在兰州城置兰泉县。北宋兰州辖境，在今兰州市黄河以南地区，包括今城关区、七里河区、西固区、榆中县及永靖县部分地区。后拓地至湟水北岸今永登县境西南部。今兰州市黄河以此地区为西夏占据。北宋的兰州是以军事为主的州，故在其附近筑城建堡。当时，兰州辖一寨四堡：龛谷寨(今榆中县小康营)、东关堡(今东岗镇一带)、皋兰堡(今西固区关山附近)，阿干堡(今阿干镇)、西关堡(今西固城附近)。后置震武军(今永登县连城附近)，以确保兰州至河湟地区道路的畅通。
    宋高宗建炎五年门130年)，金将宗弼率军占领兰州，其后宋收而复失。金占领兰州后，省兰泉县人兰州。金代兰州辖定远(今榆中县定远镇)，龛谷(今榆中县小康营)、阿干(今阿干镇)三县，东关(今东岗镇一带)、质孤(今榆中县来紫堡)、西关(今西固城附近)三堡。西夏与金长期争夺兰州。金哀宗正大三年(1226年)，西夏攻占兰州，金以龛谷、定远二县置金州，治龛谷县。蒙古灭西夏和金后占领兰州和金州，后省阿干县入兰州，省定远县、龛谷县入金州；废卓  和南监军司，于今永登县境置庄浪州。元代兰州、金州属陕西行省，庄浪州属甘肃行省。
    明代在各省置布政使司管民事，都指挥使司管军事，都司下设卫、所，还置按察使司，三司并存，互不相统。明洪武二年(1369年)，徐达率军攻取兰州，降兰州为兰县、金州为金县，属陕西布政使司临洮府。洪武三年(1370年)，置陕西都司兰州卫，指挥使驻兰县。洪武五年(1372年)，改庄浪州为庄浪卫，属陕西行都司。成化十三年(1479年)，升兰县为兰州，兰州辖区包括今城关、七里河、安宁、西固四区和皋兰县及景泰县部分地区。明代降金州为金县时，治所移至今榆中县城。建文元年(1399年)，肃王由甘州(今张掖市)移驻兰县，建肃王府(今省政府驻地)，其护卫队甘州中护卫亦移兰州，但卫名未改。
    清初沿明制，兰州、金县仍属临洮府。康熙五年(1666年)，清廷析陕西省置甘肃省。因兰州形胜险要，故于是年将甘肃巡抚自凉州(今武威市)移驻兰州，并将甘肃布政使由巩昌府(今陇西县)迁至兰州，兰州成为省会。乾隆三年(1738年)，临洮府移驻兰州，改称兰州府．改兰州为皋兰县，为府治。兰州府领狄道州、河州、皋兰县、金县、渭源县、靖远县，其中皋兰县、金县在兰州地区。乾隆四年(1738年)，因皋兰县北境边远辽阔．管理不便，遂设皋兰县红水分县，管辖宽沟、永泰、镇虏、红水四堡，其地均在今景泰县境。乾隆二十九年(1764年)，清廷将陕甘总督自西安移驻兰州原明肃王府，裁撤甘肃巡抚，由总督兼管巡抚事，兰州遂成为总督、布政使、府、县驻地，形成西北重镇及大西北的经济、文化、政治、军事中心。
    雍正三年(1724年)，改庄浪卫为平番县，属凉州府。乾隆十八年(1753年)，改设平番县之庄浪监屯厅为庄浪茶马厅，管理藏族及茶马贸易事务。明代庄浪卫、清代平番县设置土司，管理当地少数民族。最大的土司是连城鲁土司。民国21年(1932年)，连城等土司始“改土归流”。
    民国2年(1913年)，废府州制，甘肃省设七道，并兰州、巩昌2府为兰山道，领皋兰、红水、金县、狄道、导河、宁定、洮沙、靖远、渭源、定西、陇西、临潭、岷县、会宁、漳县等15县，兰山道尹驻省会皋兰县；平番县由甘凉道管辖。民国8年(1919年)，改金县为榆中县。民国16年(1927年)，废道改区，裁道尹，改设行政长。皋兰县、榆中县属兰山区，平番县属安肃区。次年，撤销行政区，改为省县制，皋兰县、榆中县、平番县直辖于省政府。民国17年(1928年)，改平番县为永登县。民国25年(1936年)5月，甘肃省划为7个行政督察区，皋兰县直隶于省，榆中县、永登县由第一行政督察区所辖。民国30年(1941年)7月1日，将省会皋兰县城区及近郊的16平方公里土地划出，成立兰州市，直辖于省政府。次年，增设第八行政督察区，永登县划归第六行政督察区。民国33年(1944年)12月，增设第九行政督察区，兰州市、皋兰县、永登县由省政府直辖，榆中县划归第九行政督察区。
    1949年8月26口兰州市解放，成立中国人民解放军兰州市军事管制委员会，张宗逊任主任，并成立兰州市人民政府，吴鸿宾任市长。从此，兰州获得新生，进人崭新的发展时期。兰州市作为甘肃省省会城市、兰州军区驻地、中央企事业单位驻地、多民族聚居地以及西北第二大城市，其行政区划管理系统兼具区域型、城市型和民族型，只不过行政级别低一级。兰州市是地级市，辖县级区和县。1953年设过金城关回族自治区(乡级)。1949年12月试行过市管县制，兰州市管辖皋兰县，70年代正式实行市管县制。
    1950年，兰州市共辖9个区和皋兰县，区名以序数排列。榆中县属定西专区，永登县属武威专区。1953年，国家把兰州市列为全国重点建设城市，为了满足经济、交通建设以及科技文教事业发展的需要，不断扩大市区。1953年市区扩大为450平方公里；1955年又扩大为540平方公里，辖城关、东岗、七里河、西固、盐场、安宁、阿干、河口等8个区；1958年又扩大至9688平方公里，除辖城关等7个区外(河口区并入西固区)，永登县划入兰州市，改为永登区。1962年为压缩城镇人口，市区面积缩 小为2714平方公里。次年，恢复永登县，划归武威专区。1963年撤销白银市，将其市区及郊区5个人民公社成立白银区，划归兰州市。1970年4月，永登、榆中、皋兰3县划归兰州市，在全国较早实行市管县制。此时，兰州市辖3县6区，即永登县、榆中县、皋兰县，东风区(1968年改城关区为东风区，1973年恢复城关区)、七里河区、西固区、安宁区、红古区、白银区。全市总面积14414．5平方公里。80年代为了适应新时期经济发展的需要，于1985年10月将白银区划归白银市。此后，兰州市行政区划未有大的变动。至1990年底，兰州市5区3县共辖77个乡、14个镇、41个街道办事处。总人口251．7万人。至2001年，兰州市辖城关、七里河、西固、安宁、红古5区和永登、皋兰县、榆中3县。总面积13085．6平方公里，总人口314万人。