和林格尔系蒙古语，意为20间房子，因清初新设驿站有20户人家而得名。

和林格尔县历史悠久，秦属云中郡、西汉置定襄郡，北魏时曾建都盛乐。

唐朝初年，663年（龙朔三年）迁渤海都护府于漠南（即汉代成乐城），更名为云中都护府，第二年又改称为单于都护府或称单于大都护府，唐朝中期以后，出现了节度使制度，745年（天宝四年）王忠嗣任振武节度使，将振武军迁至单于大都护府，振武节度使管辖着单于大都护府。从设置单于大都护府时起，这里就成为内蒙古中部的重要政治军事中心。

辽代在此设置振武县，为丰州下属的县城。金代振武城地方居民更少，改称为振武镇。

元代称为振武城，可知当时居民已剩下不多了。元王朝为了利用振武城以南，浑河沿岸的可耕地，在浑河北面设置了红城屯田所（今和林格尔县小红城），军民共同在这一带垦殖，生产的粮食多次输往阴山以北地区赈济。

元朝北迁后，振武城便沦为废墟。

清朝初年曾有少量居民住在城内，清朝末年以后便迁移出去。清康熙年间，在城关镇置二十家子驿站，因为当时有二十户人家，所以叫二十家子。雍正六年设和林格尔理事通判厅。

民国元年（1912年）改厅为和林格尔县署，民国十七年（1928年），改县署为县政府。

1949年10月1日，和林格尔县民主政府在黑老夭区中坝村热烈庆祝中华人民共和国成立，同年12月，民主政府迁回县城。

1950年2月5日，原国民党县政府撤消，正式成立了和林格尔县人民政府。新中国成立后，和林格尔县先隶绥南专署、萨县专署，后隶平地泉行政区、乌兰察布盟行政公署。

1995年经国务院批准，由乌兰察布盟划归呼和浩特市管辖。