林州西依太行，东临平原，四省通衢，沃野千里，自古人杰地灵、物阜民丰。
林州历史悠久，古名隆虑，出自战国韩国“临虑邑”。
在夏属冀州，春秋时先属卫，后属晋。
战国时为韩国临虑邑，后属魏国，而后又属赵国。
秦属邯郸郡。
西汉高帝二年（公元前205年）置县，以西邻隆虑山取名置“隆虑县”，属河内郡。
东汉延平元年（公元106年）因避殇帝刘隆讳，改名林虑县，建安十七年（公元212年）属魏郡。
三国属魏国朝歌郡。
西晋泰始元年（公元265年）属司州汲郡，永嘉元年（公元307年）属前赵。
东晋大兴二年（公元319年）属后赵，永和七年（公元351年）属前燕，太和五年（公元370年）属前秦，太元九年（公元384年）属后燕。
北魏太平真君六年（公元445年），并入邺。
太和二十一年（公元497年）复置林虑县。
永安元年（公元528年）由林虑县分置临淇县，置林虑郡，属相州。
北齐天保七年（公元556年），废林虑郡。
北周复置林虑郡。
隋开皇三年（公元583年）林虑郡废，南部分置淇阳县，开皇十六年（公元596年）置岩州，大业元年（公元605年）废州，淇阳县、临淇县并入林虑县，属魏郡。
唐武德二年（公元619年）复置岩州，武德五年（公元622年）废州为县，属相州。
金贞佑三年（公元1215年）升为林州，属河北西路彰德府，兴定三年（公元1219年）增置辅岩县，属林州。
元二年（公元1265年）废州为县，辅岩县并入，
元六年（公元1269年）复升为州，划辅岩入安阳县，属中书省彰德路。
明洪武三年（公元1370年）降州为县，改名林县，属河南布政司彰德府。
清属河南省彰德府。
中华民国2年（公元1913年）属河南省河北道。
中华民国29年（公元1940年）3月分为林县和林北县，林北县属晋冀鲁豫边区太行区第五专区，林县属国民党统治区。
中华民国32年（公元1943年）5月成立林县抗日民主政府，林县属晋冀鲁豫边区太行区第七专区。
中华民国35年（公元1946年）6月林县、林北二县合并，复称林县，属晋冀鲁豫边区太行区第五专区。
1949年8月属平原省安阳专区。
1952年11月属河南省安阳专区。
1962年属安阳专区。
1983年10月属安阳市。
1986年，林县辖15个乡。
1987年12月，城关乡撤乡建镇。
1988年12月，城关镇析置城关镇、城郊乡，临淇、姚村、河顺、任村、东姚、合涧、横水7个乡撤乡建镇。
1993年，姚村、河顺2镇各划出4个行政村成立陵阳镇。同年，合涧镇政府由合涧镇合涧村迁驻合涧镇王家村。
1996年，东岗、原康、泽下、采桑4个乡撤乡建镇，其中泽下乡更名为五龙镇，镇政府驻五龙镇景岗山。
1998年，撤销小店乡设立桂林镇，镇政府驻桂林镇桂林村。
1994年1月24日，经国务院批准，撤销林县设立林州市，由河南省直辖，暂由安阳市代管。
2003年1月，撤销城关镇，新置4个街道：开元街道、桂园街道、龙山街道、振林街道。
2012年，茶店乡撤乡设镇。
2012年10月24日，设立红旗渠国 家级经济技术开发区。
2014年8月18日石板岩乡撤乡设镇。
2016年3月，撤销城郊乡设立黄华镇。