衡陽市處于湖南省凹形面的軸帶部分。周圍環(huán)繞著古老宕層形成的斷續(xù)環(huán)帶的嶺脊山地，內(nèi)鑲大面積白堊系和下第三系紅層的紅色丘陵臺地，構(gòu)成典型的盆地形勢。

　　衡陽盆地南高北低。盆地南面地勢較高，1000米以上的山中東西連綿數(shù)十公里；盆地北面相對偏低，衡山山脈雖較高，但各峰呈峰林狀屹立于中間，其東西兩側(cè)都有較低的向北通道，其東側(cè)的湘江河谷兩岸海拔高度均在100米以下。整個地形由西南向東北復(fù)合傾斜，而盆地由四周向中部降低，呈現(xiàn)1000米，800-700米、400-300米、150米四級夷為平面。四周山丘圍繞，中部平崗丘交錯。東部為羅霄山余脈天光山、四方山、園明坳；南部為南嶺余脈塔山、大義山、天門仙、景峰坳；西部為越城嶺的延伸熊羆嶺、四明山、騰云嶺；西北部、北部為大云山、九峰山和南岳衡山。整個地形比降為7.9‰。南部山峰大多海拔600米以上，常寧天堂山最高，海拔1265米。西部山峰多海拔500米以上，祁東騰云嶺最高，海拔1044米。東北部除南岳衡山外，一般地面高程在海拔300米-500米。

　　市境最高點為衡山祝融峰，根據(jù)國家最新的測量數(shù)據(jù)，海拔1300.2米；最低點為衡東的彭陂港，海拔僅39.2米。

　　地貌類型以崗丘為主。山地占總面積的21%，丘陵占27%，崗地占27%，平原占21%，水面占4%。中部大面積分布白堊系和第三系紅層，面積3550平方公里，構(gòu)成衡陽盆地的主體。

　　境內(nèi)有河長5公里或流域面積10平方公里以上的江河溪流393條，總境長達(dá)8355公里，河網(wǎng)密度為每平方公里0.55公里。發(fā)源于廣西興安的湘江干流，自祁東歸陽鎮(zhèn)入境，依次流經(jīng)祁東縣、衡南縣、常寧市、市區(qū)、衡陽縣、衡山縣和衡東縣，境內(nèi)長226公里。境內(nèi)流域面積在3000平方公里以上的湘江一級支流有舂陵水，蒸水，耒水、洣水。

　　水電資源理論蘊(yùn)藏量87.61萬千瓦，可供開發(fā)量64.17萬千瓦。

　　湘江是湖南省最大的河流，全長856km,流域面積94660km2。其在衡陽市境內(nèi)干流長226km,自祁東歸陽清塘流入境內(nèi)，從衡東和平村出境進(jìn)入株洲市，占湘江在湖南境內(nèi)里程的39.7%。