7000年前，栖霞地区已有先民从事渔猎活动，并创造了农业文明。公元前20世纪至前17世纪，栖霞境内开始出现两大原始聚落，一为玄武湖聚落，一为东北沿江聚落。春秋战国时期，“周武王有天下，封周章于其地”，栖霞地区先属吴，继属越，再属楚。秦始皇三十七年（前210），秦始皇第五次东巡经此北归，并设置江乘县。时江乘县境域广阔，西起南京石头城、白石垒沿江而东至句容市下蜀镇，再南折至江宁区淳化镇，连同今南京市鼓楼区、下关区、建邺区、白下区、秦淮区、雨花台区统在其领属之下。至南朝齐武帝永明七年（489），山东高士明僧绍，史称明征君，在摄山结庐隐居，后舍宅为寺，名为“栖霞精舍”，即今栖霞寺，栖霞始得以冠名至今。