林州位于河南省北部、太行山脉东麓，处河南、山西、河北三省交汇处，地图坐标为东径113°37′-114°51′，北纬35°40′-36°21′。辖境东与安阳县、鹤壁市鹤山区、淇滨区接壤，南邻辉县市，西界与山西平顺、壶关两县接壤，北与河北涉县相连，总面积2046平方千米，其中山坡、丘陵占86%。
林州市地处太行山南段东麓，境内多山，山坡、丘陵占总面积的86%。地势西北高东南低，市区海拔高度为306.8米。属海河流域漳、卫南运河水系，有漳（浊漳河） 、洹河、淅河、淇河4条河流以及红旗渠。属暖温带大陆性季风气候，年平均气温12.8℃，年降水总量672.1毫米。矿藏有铁、煤、白云石、石英石、耐火粘土、大理石、花岗岩等。
林州市地理位置优越，东临京广铁路，西通晋陕腹地，南依郑州，北连京畿，乃南下北上、东进西达、三省通衢之要地。人称“金三角”，史书有“卫弃之而弱，晋有之而霸”的记载。