夫馀國前期,龍潭山城為夫馀國的前期都城所在地。
高句麗王朝至廣開土王時代(391年至412年),龍潭山城建造軍事城堡。
2012年、2013年,吉林省文物考古研究所連續2年對龍潭山城開展了主動性考古發掘。
2014年,吉林省文物考古研究所、吉林省文物管理處、吉林市博物館等對龍潭山城內南部大型臺地進行了發掘。
龍潭山城整個山形呈不規則多邊形,四周高,中間低,城垣借山勢沿山脊用夯土或碎石構筑,高矮寬窄不一,高處達10米左右,矮處僅1米許,頂寬1-2米,基寬約10米,周長2396米。城的正南正北各有1門,東西南北四方突起處各有1瞭望臺,一般長20-25米,寬6-9米。
龍潭山城內瞭望臺上發現紅色繩紋瓦,山城內有同時期建筑的“水牢”和“旱牢”遺址,附近有龍王廟、關帝廟、龍鳳寺等古建筑。
2014年,吉林省文物考古研究所、吉林省文物管理處、吉林市博物館等在龍潭山城內南部大型臺地發掘出房址3座、臺基式建筑5座,房址遺存有石砌火炕煙道、煙囪底座和墻基,煙道出土有“大定通寶”;臺基式建筑出土了大量灰色、紅褐色布紋板瓦和少量筒瓦殘塊以及脊獸殘件。龍潭山城出土鐵器以鐵釘、鐵鏃、鐵缸、鐵鐮、鐵鍋為主;銅器大都為銅錢,以北宋代年號錢為主;石器為柱礎和石臼。
龍潭,位于龍潭山城西北角低處,又稱“水牢”,是高句麗時代(另一說為遼金時代)戍守山城士兵利用山泉修建的備用貯水池,東西長52.8米,南北寬25.75米,深9.08米,四壁用整齊的長方形花崗巖石塊砌筑而成,池壁從下至上向內遞入,呈階梯狀,共分三階。南壁從池沿向下約1米為直立巖壁,再往下則借山巖的傾斜面,用不規則的花崗巖塊平鋪,呈45度斜坡直達池底。北壁東端池有一砌泄水洞,洞內狹外寬,通向墻外,多出的池水由此溢出。池中的水,主要是由山上的雨水或雪水積成,也有少量地下水從池底滲出,故池水終年不竭,并保持穩定水位,通常蓄水近1萬立方米。“龍潭映月”為吉林八景之一。
旱牢,位于龍潭山城內西南偶較高處,距“水牢”約420米處,是高句麗時代的建筑遺址,由花崗巖塊壘砌,平面呈正圓形,直徑16.6米,深2-3米,推斷是儲存軍需物資的地窖。
龍潭山城內的“水牢”和“旱牢”,可能是儲備軍需物資的倉庫,龍潭山城及山城內的“水牢”和“旱牢”是研究高句麗疆域和城池建筑的重要實物資料,對研究東北地區史前文明具有重要的學術價值。
1961年,龍潭山城被吉林省人民政府公布為省級重點文物保護單位。
2006年5月25日,龍潭山城被中華人民共和國國務院公布為第六批全國重點文物保護單位。
2016年,吉林市人民政府重點推進了龍潭山城遺址、帽兒山墓地文物保護旅游示范區建設,完成了《龍潭山城帽兒山墓地保護旅游示范區規劃》。
關于龍潭的由來,流傳著一段神話故事。傳說在很久很久以前,龍潭山周圍風調雨順,五谷豐登,老百姓漁獵耕織,安居樂業。有一天,忽然天昏地暗,電閃雷鳴,從天上降下一條孽龍,落到山間水池中。從此,老百姓稱水池為龍潭,山也被叫做龍潭山了。這條孽龍經常呼風喚雨,發大水禍害山下的老百姓。有一年孽龍又發大水,淹沒了山下的莊稼和房屋,老百姓四處逃命。一個叫林小妹的女孩也被洪水沖走,其父林翁拼命追趕,好不容易游到女兒身邊。正要救起女兒,忽然一只受傷的燕子掉在林翁面前,林翁先救了燕子,再看女兒卻不見了蹤影。林翁及老伴失去獨生女兒,痛不欲生。這時被救的燕子突然開口說話了,她安慰了老兩口一番,并認林翁夫婦為父母。因燕子生長在龍潭,大家都親切地稱她為龍潭燕。為除孽龍報達林翁夫婦救命之恩,龍潭燕決意飛往南海仙山求師學藝。三年之后龍潭燕功成歸來,率領眾燕子打敗了孽龍,從此龍潭山下的老百姓又過上了太平日子。