史前时期，今蚌埠地域为淮夷氏族聚居区。今怀远县和蚌埠市区西部属涂山氏国，今蚌埠市区东部属钟离国。春秋时期，今固镇县先后属宋、吴，今五河县先后属徐方、鲁、宋；战国时期，今怀远县、蚌埠市区、固镇县均属楚，五河县先属宋、吴，后属楚。
    历经秦、汉、两晋南北朝、隋、唐、五代十国，至南宋（1257年）始置怀远军及荆山县，辖今怀远县及蚌埠市区西部、固镇县一部，今蚌埠市区东部属濠州钟离县，均属淮南西路；南宋咸淳七年（1271年）始置淮安军及五河县，辖今五河县，属淮南东路。南宋、金对峙时期，今固镇县分属宿州蕲县、灵璧县及泗州虹县。
    元至元二十八年（1291年）撤销怀远军，改荆山县为怀远县，今蚌埠市区西属怀远县，东属钟离县，均属安丰路濠州；今固镇县属宿州，五河县属泗州。元至正二十七年（1367年），濠州升为临濠府。明洪武年间，钟离县先后改为中立县、临淮县，增设凤阳县，今蚌埠市区西属怀远县，东属凤阳县，今固镇县分属宿州、怀远县、灵璧县、五河县、凤阳县。因临濠府先后改为中立府、凤阳府、宿州及怀远、灵璧县、五河、凤阳各县均属凤阳府所辖。清雍正二年（1724年），五河县改属泗州。清同治二年（1863年），划凤阳县马村沟以西、怀远县席家沟以东、灵璧县后楼为蚌埠独立行政区，置三县司，直属凤阳府。
    1912年，中华民国成立，废凤阳府，怀远县、五河县直属安徽省（1667年设），后属安徽省淮泗道。同时废蚌埠三县司，今蚌埠市淮河以北划属灵璧县，淮河以南划属凤阳县。1927年南京国民政府成立，正式废道，凤阳县、怀远县、灵璧县、五河县先后直属安徽省。1929年初，蚌埠成立市政筹备处，翌年撤销，仍属凤阳县。1932年，怀远县、凤阳县改属安徽省第四区，五河县先后改属第七区、第六专区。沦陷时期，蚌埠设为伪安徽省维新政府、伪安徽省政府所在地。抗战胜利后，凤阳县先后改属安徽省第九专区、第五专区、五河县属安徽省第四专区。1946年11月，蚌埠成立市政筹备处，脱离凤阳县，辖原属凤阳县的淮河以南地区和淮河以北小蚌埠地区。1947年1月1日，蚌埠正式设市，直属安徽省，为安徽省第一个设市的城市。
    1949年10月1日建国后，蚌埠市、怀远县、五河县属皖北行署，今固镇县分属宿县、五河、灵璧、怀远4县。1952年4月，蚌埠市属安徽省；上述4县改属安徽省宿县专区，1956年1月改属蚌埠专区，1961年仍属宿县专区。1964年10月，析宿县、怀远县、五河县、灵璧县各一部分地区组建成固镇县、属宿县专区。1971年宿县专区改为地区。1983年7月，怀远县、五河县、固镇县由宿县地区改划属蚌埠市至今。