秦汉时期，秦（公元前221—207年）置郴县、临武邑、鄙邑、耒县。西汉元鼎四年（前113年），桂阳郡辖郴、临武、南平、便、耒阳、桂阳、阳山、阴山、曲江、含洭、浈阳等11县。新始建国元年（9年），王莽称帝，改桂阳郡为南平郡，改郴县为宣风、临武为大武、便县为便屏、曲江为除虏、浈阳为基武，并移郡治于耒阳（改名南平亭）。东汉建武中（一说11年，即公元35年）还郡治于郴县，恢复郡县原名。永和元年（136年），分郴县地置汉宁县，省阴山县。
三国时期，吴建兴元年（252年），改汉宁为阳安县。甘露元年（265年），分南境曲江、桂阳、阳山、含洭、浈阳县置始兴郡，度属交州，桂阳郡则余6县。
隋唐时期，隋开皇九年（589年），三郡合为郴州，平阳县、便县均省入郴县。贞元二十年（804年），置桂阳监于平阳，专理采铜铸钱。元和十五年（820年），郴州还治于郴县。宋元时期，宋乾德元年（963年），设郴州军。元至元十三年（1276年），改军为路，郴县改名郴阳。明清时期，明洪武元年（1368年），改路为府，蓝山县复归郴州府，府辖7县；桂阳府辖常宁、耒阳2州及平阳、临武2县。清康熙十七年（1678年），吴三桂称帝于衡州，改桂阳为义昌县、桂阳州为南平州。次年均复原名。雍正十年（1732年），桂阳州改属州为直隶州，与郴州直隶州并列。
民国时期，中华民国元年（1912年），废府、州，存道、县。次年2月，桂阳县复名汝城。9月，郴州直隶州改为郴县，桂阳直隶州改为桂阳县。民国3年1月，因兴宁县与广东兴宁县重名，故复名资兴县。11年，撤销道制，存省、县两级。26年12月，设置湖南省第八行政督察区。29年，改第八区为第三区，辖郴、资兴、桂东、汝城、宜章、临武、蓝山、嘉禾、桂阳、永兴10县，154乡，1892保，25307甲。
新中国时期，中华人民共和国建立初，原第三区各县由衡阳专区代管。1949年11月25日，成立郴县专区。1950年11月，更名郴州专区乡。1952年月11月13日，郴州、零陵、衡阳3专区合为湘南行政区。1954年7月6日，撤销湘南行政区，改设衡阳与郴县两个专区。1958年8月，设郴县郴州市，1959年3月，资兴并入郴县，桂东并入汝城称汝桂县，临武并入宜章县，嘉禾并入蓝山称蓝嘉县，新田并入桂阳县，酃县划归湘潭专区茶陵县。11月，郴州市升为县级市。1960年7月18日，改郴县专区为郴州专区。1961年6—7月，恢复原县市建置，并析资兴县地置东江市。1962年月12月，撤销东江市，划蓝山、新田归零陵地区。郴州专区辖12县、市，12个镇，293个乡。1963年5月20日，撤销郴州市，仍为郴县县级镇。1967年3月8日，专区改称地区。1977年12月，恢复郴州市。1983年5月，耒阳县划归衡阳市。年12月，资兴县改为资兴市。1988年，郴州地区辖2市9县，39个镇、209个乡（其中5个民族乡）、5个街道办事处，2950个村、130个居民委员会，30387个村民组。
