早在石器时代，长沙地区就已经形成了几股氏族及部落。
殷商时代（公元前16世纪—公元前11世纪），长沙属扬越之地，是百越部落的一个分支。到了春秋时期的中叶，楚国在南方慢慢崛起，长沙即属楚国领地；战国时，长沙就成为了楚国的军事重镇和重要粮食产地。
秦始皇元年（公元前221年），秦设置了长沙郡，为全国36郡之一；东汉末期，长沙属荆州；三国时，当归属吴国。
隋朝开皇九年（公元589年），更长沙郡为潭洲，改临湘县为长沙县。隋炀帝时，废州复郡，长沙郡与县同城而治。
1364年，朱元璋又改长沙为潭洲府。明洪武五年（公元1372年）再改为长沙府，隶属湖广布政使司。其后清沿明制，建置依旧。
1913年年撤长沙府；1933年市县分治，设长沙市，定为省会。长沙是全国第14个设为行政区划的市。
1949年8月，湖南和平解放后，长沙仍为湖南省会。1958年12月24日，原属湘潭专区的长沙县、望城县划归长沙市管辖。1983年，长沙增辖浏阳（1993年设市）、宁乡、湘阴（1983年7月湘阴复归岳阳地区）。
2003年，长沙市辖芙蓉、天心、岳麓、开福、雨花5区，长沙、望城、宁乡三县和浏阳市。