秦始皇统一六国后，在今阿拉善地区东北部始设北地郡。汉代，阿拉善地区分属北地、武威、张掖三郡管辖。汉武帝太初三年(公元前102年)，征发兵卒18万到河西戍边屯田，北置居延、休奢两县。汉宣帝本始元年(公元前73年)，居延县隶属张掖郡管理。东汉光武帝元年(公元25年)，改置“张掖居延属国”。东汉献帝兴平二年(公元195年)，设西海郡，辖居延一县。

汉代，阿拉善地区分属北地、武威、张掖三郡管辖。汉武帝太初三年（公元前102年），征发兵卒18万到河西戍边屯田，北置居延、休奢两县。汉宣帝本始元年（公元前73年），居延县隶属张掖郡管理。东汉光武帝元年（25年），改置“张掖居延属国”。东汉献帝兴平二年（195年），设西海郡，辖居延一县。 魏晋南北朝时期，魏国和西晋续设西海郡。北魏时，阿拉善地区为凉州所辖，北魏道武帝登国元年（386年），氐族人吕光建立后凉政权，领居延县。北魏孝明帝正光二年（521年），居延古都属柔然婆罗门领地。