乌什县汉为温宿国地，唐置温肃州，州治大石城。又称作于祝。元、明以来有倭赤、乌赤等名称，或为其地。清乾隆二十年（1755年）后地名汉文定为乌什。乾隆二十四年（1759年）设乌什办事大臣，光绪九年（1883年）设乌什直隶厅，隶阿克苏道。民国2年（1913年）改直隶厅为乌什县。1929年后行政区划均属阿克苏地区。

县境沿天山数处有隘口，在历史上曾是中国内地通往亚欧诸国有名的“丝绸之路”中道所必经之地，张骞第二次出使西域也曾路经此地，遗留有许多人类文化遗址、古道、古城、石窟、墓葬和岩画等，构成丰富的文物古迹景观。