因境内陆处古东原地平，又位于济水之阴而得名。

春秋战国为齐地;汉时属兖州部泰山郡;东汉属兖州部济北国。周王朝建立，分封诸侯，平阴属齐国。春秋战国时期，平阴仍属齐国。晋时属兖州部济北国。南宋时属兖州部济北郡。后魏时属济北郡。隋属兖州部济北郡(平阴、卢县并置)。唐属河南道郓州东平郡。宋、金时期，平阴县辖旦欢、澄空、傅家岸、滑口、孝德、辛镇、鸾翔、沙沟、宁乡、安宁10个乡镇。平阴宋属京东西路东平府。北宋政和元年(1111年)、金大定二十九年(1189年)时，东至奉符县(泰安县)，南与宁阳、东平县搭界，西与东阿、茌平县接壤，北靠长清县。县境东西最大距离100公里，南北最大距离90公里，总面积2200平方公里。金属山东西路东平府。县境承袭自北宋，包括了肥城市境在内。元属山东西道东平路总管府。元至元十二年(1275年)割辛镇、沙沟等5镇，孝德等4乡归肥城县。明属山东布政使司东平州。明初编户为16里，后增为19里。清嘉庆十三年(1808年)平阴县分4个乡(北为永宁乡，东为顺德乡，南为安乐乡，西为西宁乡)、26里，辖286个村庄。清属泰安府。

平阴县，民国二年属济西道，次年改属东临道，十七年(1928)直属山东省。1939年10月平阴县抗日民主政府成立，下设6个区。抗日战争期间，民主政府将平阴县划属泰西专区。1942年12月调整为7个区，平阴县与东阿县东部合为平阿县，隶属晋冀鲁豫边区。1945年撤平阿县恢复平阴县。1946年改属泰西专区，1946年11月黄河北的四区(牛角店)、五区(旦镇)整体划出。平阴县民主政府设4个区。1948年3月平阴县设联防片62个。1950年5月属泰安专区。1958年11月平阴县并入东平县，属聊城专署。1959年10月恢复平阴县，属济南市。1960年4月属菏泽专区。1961年2月12日属济南市，同年4月18日由济南复属泰安专区。1985年3月27日属济南市。

云翠山位于洪范池镇南2公里处，海拔474.9米。其中南天观建于元代大至四年，道教全真派创始人丘处机曾修炼于此，为当时全国四大名观之一，观中的日月泉为济南七十二名泉之一。翠屏山位于平阴县城西南12.5公里，列济南市风景旅游区之一。大寨山位于洪范池镇东南，海拔494.8米，为平阴县境内最高峰。洪范池又名龙池，济南七十二名泉之一，"洪范九泉"之首。狮耳山，又名虎窟山，海拔250米，位于现平阴县东阿镇西两公里的范庄村南。玫瑰湖湿地位于平阴县城西部，原生态湿地特征明显，有国家Ⅰ级、Ⅱ级保护动植物30多种，各种树株60万余株、水面6000余亩。