秦為月氏駐牧地。前174年 （西漢文帝前元六年），匈奴擊敗月氏，占領河西。
匈奴休屠王築蓋臧 （即姑臧）城。據武威籍清代著名史學家張澍的《涼州府誌備考》載：“前126（漢武帝元朔三年），改雍州曰涼州，以其金行，土地寒涼故也。”涼州從此得名。前121年（元狩二年）春，漢武帝派驃騎將軍霍去病出隴右擊匈奴，使整個河西走廊納入西漢版圖。後設置武威、酒泉、張掖、敦煌四郡，武威郡轄10縣，以姑臧（涼州區）為治所。 中華人民***和國成立後，1949年10月，中***永登縣天祝區委、天祝區公所成立。是年10月14日，武威分區行政督察專員公署成立，下轄武威、永登、景泰、古浪、民勤、永昌6縣。1950年1月，甘肅省人民政府決定，將永登縣天祝區公所改為天祝自治區（縣級）。是年5月23日，甘肅省人民政府命令，撤銷張掖專區，張掖、民樂、山丹三縣劃歸武威專區。武威專區轄武威、景泰、張掖、民樂、山丹、永昌、古浪、民勤、永登9縣及天祝自治區。
1953年12月23日，天祝自治區改名天祝藏族自治區。
1955年7月17日，天祝藏族自治區改名天祝藏族自治縣。是年10月15日，經國務院批準，武威、酒泉兩專區合並，成立張掖專區。
1958年12月20日，撤銷古浪縣建制，將古浪縣行政區域並入天祝藏族自治縣。
1961年11月25日，國務院決定恢復武威專區，12月15日恢復古浪縣建制。恢復後的武威專區轄武威、民勤、永昌、古浪和天祝藏族自治縣。
1963年10月24日，國務院決定將永登、景泰兩縣劃歸武威專區。1969年7月，內蒙古自治區的阿拉善右旗劃入武威專區。
1970年3月25日，永登縣劃歸蘭州市。
1979年7月1日，國務院決定將阿拉善右旗交由內蒙古自治區管轄。
1981年2月，永昌縣劃出武威地區，歸新設的金昌市管轄。
1985年4月15日，國務院批準撤銷武威縣，設立武威市（縣級）。同年5月14日，景泰縣劃歸白銀市。至此，武威地區轄武威市及民勤、古浪、天祝三縣。
2001年5月9日，國務院同意撤銷武威地區和縣級武威市，設立地級武威市。市人民政府駐新設立的涼州區。武威市設立涼州區，以原縣級武威市的行政區域為涼州區的行政區域。武威市轄原武威地區的民勤縣、古浪縣、天祝藏族自治縣和新設立的涼州區。是年8月1日中***武威市委成立。