春秋战国时期，南京地处“吴头楚尾”，为吴国置冶城于此。

公元前472年，越王勾践灭吴后，令越相范蠡修筑越城于秦淮河畔，为南京最早古城。

公元前306年，楚威王灭越，尽取吴故地，筑城于石头山，置金陵邑，遗址在今石头城，即南京城西草场门至清凉门之间。

公元前223年秦灭楚，公元前210年，秦始皇东巡，以金陵有天子之气，遂改金陵为秣陵以贬斥之。

汉初秣陵相继为楚王韩信、吴王刘濞之封地。前128年，汉武帝封其子刘敢为丹阳侯，刘胥行为胡孰侯，刘缠为秣陵侯。

195年，孙策渡江占据丹阳、江乘、胡孰、秣陵等县。208年前后，诸葛亮出使江东，观察南京山川形胜，作出了“钟阜龙蟠，石头虎踞”的着名评语。211年，孙权听从谋士张紘之言，自京口迁秣陵，改名建业。229年，孙权称帝，是为吴大帝，自武昌还都建业，是为南京为国都之始。吴石头城遗址在今南京城西草场门至清凉门之间。

280年，西晋灭吴，改建业为建邺。后因避晋愍帝司马邺之讳，改名建康。琅玡王司马睿南渡，以建康为根基。317年，司马睿即位，是为晋元帝，东晋正式建立，定都建康。

420年，刘裕代晋称帝，是为宋武帝，宋立国，都建康。479年，萧道成代宋称帝，是为齐高帝，齐立国，都建康。502年，萧衍代齐称帝，是为梁武帝，梁立国，都建康。557年，陈霸先代梁称帝，是为陈武帝，陈立国，都建康。

吴、东晋、宋、齐、梁、陈合称六朝，故南京被称为六朝古都。今南京图书馆保留有六朝建康城遗址。六朝建康城为当时世界上最大的城市，人口达百万，是世界上第一个人口超过百万的城市，其经济发达，文化繁盛，在江南保存了华夏文化之正朔。以建康为代表的南朝文化，六朝时期的南京城和古罗马城并称为“世界古典文明两大中心”，在人类历史上产生了极其深远的影响。六朝，上承秦汉，下启隋唐。

589年，隋灭陈。隋文帝下令蕩平建康城，以石头城为蒋州治所，隋炀帝时改为丹阳郡。

此后隋、唐两朝统治者相继採取抑制南京的策略，将扬州治所自金陵迁至广陵，曾一度取消南京州一级的建制。唐初，杜伏威、辅公祏义军占据丹阳郡，归顺唐廷，唐改丹阳为归化。杜伏威入朝被扣不返，辅公祏起兵反抗，建立宋政权。唐平江南，置昇州。758年，着名书法家颜真卿为昇州刺史，次年书乌龙潭放生池碑，遗址今存。李白晚年居昇州，762年病逝于南京西南之当涂。783年，因藩镇为乱，唐德宗有意迁都，镇海军节度使韩滉整修金陵，然其事未成。

五代杨吴立国，修缮金陵，以为西都。937年，徐知诰（李昪）代吴，南唐立国，定都金陵，改金陵府为江宁府。

975年，北宋灭南唐，以江宁府为昇州。1018年，宋真宗以赵受益（后改名赵祯）为升王，不久立为皇太子，改昇州为江宁府。赵祯即位，是为宋仁宗。以江宁为其龙兴之地，常以亲信之臣（如包拯）为江宁府尹。宋神宗时，王安石两度以江宁府尹出任宰相，主持变法。1120年，方腊起兵反宋，终未能北取江宁而不能控制江南，导致最终失败。

1127年，宋高宗即位，接受主战派人士李纲的建议，改江宁府为建康府，作为东都。不久金兵南下，高宗南逃，以杭州为行在。1137年，在主战派岳飞等人的坚持下，宋高宗再次返回行都建康。1138年，宋高宗以建都当“修德行而不在于择险要之地”为名，再次南逃杭州，正式建都，改杭州为临安府。建康府为陪都。

1275年，元兵南下，以建康府为建康路。1329年，改建康路为集庆路。

1356年，朱元璋攻克集庆，改集庆路为应天府，作为根据地，朱元璋自称吴国公。1368年，朱元璋在应天称帝，国号明，是为明太祖。以应天府为南京，以为首都，以开封为北京，以为陪都。1378年，罢北京，改南京为京师。1386年，京师城垣完工。南京是在元代集庆路旧城的基础上扩建的。城市由三大部分组成，即旧城区、皇宫区、驻军区。后两者是明初的扩展。环绕这三区修筑了长达33.68公里的砖石城墙，即今南京明城墙。是为世界第一大城垣（其次巴黎；在中国，其次北京）。南京城墙墙基用条石铺砌，墙身用10厘米×20厘米×40厘米左右的大型城砖垒砌两侧外壁，中实杂土，所用之砖由沿长江各州府的一百二十五个县烧制后运抵南京使用，每块砖上都印有监製官员、窑匠和夫役的姓名，其质量责任制之严格可以想见。城墙沿线共辟十三座城门，门上建有城楼。1403年，明成祖升北平为北京，以为陪都。1420年底，明成祖迁都北京，以南京为陪都。1644年，崇祯帝吊死煤山，北京陷。福王朱由崧在南京即位。

1645年，清兵克南京。改南直隶为江南省，应天府为江宁府。1649年，清设两江总督于江宁。1853年，太平军攻克江宁，改江宁为天京，以为都城。在今总统府一带修太平天国天王府。1864年，清兵克天京，太平天国亡。

1912年，孙中山在南京就任中华民国临时大总统，以南京为首都。不久袁世凯窃据大总统之位。1927年，北伐军克南京。不久南京国民政府成立。

南京大屠杀，是第二次世界大战爆发前两年，侵华日军于1937年12月13日攻陷中华民国首都南京之后，在南京城及其郊区犯下的大规模屠杀、强姦以及纵火抢掠等战争罪行与反人类罪行。根据远东国际军事法庭的调查，日军攻占南京后6个星期之内杀害的平民和战俘在30万人以上，日军攻占南京后一个月内强姦妇女约2万起，南京城的三分之一被日军纵火烧毁。

长期以来，日本一直有一种论调，认为东京审判是“胜者的审判”，日军在二次大战中的行为被歪曲丑化了；而在所有对日军的不实指控中，又指称“南京大屠杀”是一个最大的谎言。由于日方文献在战后遭到了大规模焚毁，而日本又有人不承认事发当时中国和西方文献的客观性，使得这一观点对海外不知情的第三者，尤其是日本民众至今仍有影响。很多学者通过对日本烬余的相关史料，特别是日本右翼也不得不认可的公私文献的辨析和梳理，基本廓清了日本虚构派布下的迷雾，证明以屠杀为代表的日军在南京的各种暴行，即使仅据日方文献也完全可以证明。

南京市的政区建制，随南京解放初期和新中国成立后行政区划体制的发展变化，而迭有更动。先是由中国人民解放军南京市军事管制委员会管理，中华人民共和国成立后，南京成为中央直辖市，江苏省人民政府成立后，南京成为省辖市。

1949年4月23日，中国人民解放军占领南京；28日成立中国人民解放军南京市军事管制委员会，统一全市军事、民政等管理事宜。同年5月1日，新的中共南京市委员会成立；5月10日，南京市人民政府成立，设于原民国考试院旧址（今北京东路41号）。至1952年，市军事管制委员会各机构的工作都移交完毕，纳入了市人民政府治理範围。

1949年10月1日，中华人民共和国中央人民政府成立，南京市由中国人民革命军事委员会领导改为由中央人民政府直辖，为当时全国13箇中央直辖市之一。1950年1月，华东区成立华东军政委员会（驻上海），为中央人民政府派出机关，又是华东地区一级政府。南京仍为中央直辖市，由华东军政委员会领导；同月27日，中央人民政府政务院决定设立驻宁办事处。1952年成立江苏省时，南京由中央直辖市改为江苏省辖市。

1952年9月9日，中共中央华东局电示：根据中共中央指示，南京市、苏南行政区、苏北行政区合併为江苏省。11月15日，中央人民政府政务委员会第19次会议决议：成立江苏省人民政府，省政府设南京市，南京改为省辖市。12月17日，政务院命令：南京市改为江苏省政府的省辖市，不再直接隶属于华东军政委员会。

1953年1月1日，江苏省人民政府正式成立，以南京市为江苏省省会。南京市原未辖有属县。1958年7月5日，江苏省人民委员会通知：为适应“大跃进”形势的需要，将镇江专署的江宁县，扬州专署的江浦、六合两县，划归南京市领导。南京市遂辖有江宁、江浦、六合3县。至1962年6月25日，江苏省人民委员会通知：为恢复和发展农业生产，将市属各县仍划归原属专员公署领导。自此时至1971年初，南京市无下属县。

1971年3月12日，经中共中央和国务院批准，江宁、江浦两县划属南京市管辖。

1975年11月，国务院批准将六合县划归南京市领导。

1983年3月1日，原属镇江专署的溧水、高淳两县划归南京市。至此，南京市形成6城区、4郊区、5县的区划格局。

2001年1月，江宁撤县建区。

2002年4月，原大厂区、六合县撤销，成立新的六合区；原浦口区、江浦县撤销，成立新的浦口区。

2013年2月，原秦淮区、白下区撤销，成立新的秦淮区；原鼓楼区、下关区撤销，成立新的鼓楼区；溧水、高淳撤县建区，南京市共有11个区。

2015年7月，江苏省政府公布《关于调整南京市溧水区和高淳区部分行政区划的批覆》，同意撤销溧水区永阳镇、柘塘镇、高淳区淳溪镇、古柏镇，分别设立溧水区永阳街道、柘塘街道、高淳区淳溪街道、古柏街道。

2018年5月15日，江苏省政府公布《关于调整南京市溧水区部分行政区划的批覆》，同意撤销溧水区东屏镇、洪蓝镇、石湫镇，分别设立东屏街道、洪蓝街道和石湫街道。

2019年1月28日，江苏省政府公布《关于同意调整南京市高淳区部分行政区划的批覆》，高淳区的漆桥镇、东坝镇、桠溪镇、固城镇撤销，分别设立漆桥街道、东坝街道、桠溪街道、固城街道。

玄武区面积80.97平方千米，人口46万人。邮政编码210018。区人民政府驻梅园新村街道。

秦淮区面积49.2平方千米，人口24万人。邮政编码210002。区人民政府驻五老村街道。

鼓楼区面积53.1平方千米，人口66万人。邮政编码210009。区人民政府驻宁海路街道。

建邺区面积82平方千米，人口18万人。邮政编码210019。区人民政府驻沙洲街道。

栖霞区面积355平方千米，人口39万人。邮政编码210046。区人民政府驻仙林街道。

雨花台区面积134平方千米，人口19万人。邮政编码210012。区人民政府驻雨花街道。

浦口区面积913平方千米，人口48万人。邮政编码211800。区人民政府驻江浦街道。

江宁区面积1573平方千米，人口78万人。邮政编码211100。区人民政府驻东山街道。

六合区面积1484平方千米，人口86万人。邮政编码211500。区人民政府驻龙池街道。

溧水区面积1067平方千米，人口42万人。邮政编码211200。区人民政府驻永阳街道。

高淳区面积801平方千米，人口42万人。邮政编码211300。区人民政府驻淳溪街道。