안산은 원래 고구려의 장항구현(獐項口縣) 또는 고사야홀차현(古斯也忽次縣)인데 신라 경덕왕 때 장구군(獐口郡)으로 승격되었다.

고려 초기에 안산군(安山郡)으로 고쳤고, 현종 9년(1018)에 수주(水州 :수원)의 속현(屬縣)이 되어 안산현(安山縣)이 되었다. 고려 충렬왕 34년(1308) 문종(文宗)이 탄생한 고을이라 하여 안산군(安山郡)으로 다시 승격되었고 이후 지사(知事)의 다스림을 받았다.

조선시대에 들어와 태종 13년(1413) 전면적인 지방통치 조직의 개편이 되었고, 그 일환으로 실시된 8도제의 시행에 따라 경기도에 예속되어 이후 군수가 파견되기에 이르렀다.
안산군(安山郡) 서남쪽 30리 되는 곳에는 초지량영(草芝梁營)이 있었는데, 효종 7년(1656) 이곳 초지진(草芝鎭)을 강화도로 옮겼다.

안산은 조선시대에 연성(蓮城)이라고도 흔히 불리었는데, 이는 세조 9년(1463) 문신이며 농학자인 강희맹(姜希孟)이 진헌부사(進獻副使)로 명나라에 갔다가 연꽃 씨를 가지고 와서 안산의 관곡지(官谷池)에 시험 재배하면서 널리 퍼지게 되어 그 뒤부터 안산의 별호를 연성(蓮城)이라 했다고 『안산군읍지(安山郡邑誌)』에 기록되어 있다.

하지만 정종 2년(1400)에 안산김씨인 김정경(金定卿)이 박포의 난을 평정하고 좌명공신에 올라 연성군(蓮城君)에 봉군되었던 점으로 보아 그 이전부터 연성으로 불린 것으로 보인다.
고종 32년(1895) 23부제가 실시되면서 인천부(仁川府)에 속하였다가 다음 해에 도제(道制)가 부활하자 다시 경기도에 속하게 되었다.

1906년에는 광주(廣州)의 성곶면∙북방면∙월곡면이 안산군에 편입되었으나 일제강점기인 1914년에 행정구역이 통폐합됨에 따라 안산, 시흥, 과천의 3개 군이 시흥군(始興郡)이란 명칭으로 통합되면서 안산지역은 시흥군 수암면과 군자면으로 편제되었고, 성곶면∙북방면∙월곡면은 수원군에 이관되어 반월면이 되었다.

그 후 1976년 시흥군의 수암면, 군자면과 화성군의 반월면 일대가 반월신공업도시(半月新工業都市)로 조성되면서 해마다 인구가 증가 하여 1986년 1월 1일 시 승격과 함께 안산이란 옛 이름을 되찾아 안산시로 부르게 되었다.

1994년 12월에는 화성군 반월면 일부와 옹진군 대부면 전체가 편입되었고, 1995년 4월에는 시흥시 화정동 일부와 장상동·장하동·수암동이 편입되어 오늘날의 안산시가 되었다.