河南省规模最大的一支山脉。山体呈西北——东南走向，形如卧牛，绵延达400余公里，素有“八百里伏牛山”之称。该山脉在洛阳境内长约 200公里，宽约 25公里，地处东经 111°15´～112°16´、北纬 33°34´～33°52´之间。山地北面与熊耳山、外方山交汇，其间没有明显的界限；山地南面以山脊老界岭为界与南阳盆地相接，既是黄河、淮河、长江三大水系的分岭，也是暖温带与北亚热带的自然分界线。                                        
    伏牛山脉规模巨大，山势雄伟高峻，主脊主要由燕山期花岗岩、片岩和片麻岩组成，两侧为古老的变质岩层，局部地方有灰岩出露。北侧山坡陡峭，坡度多在45°以上，有的超过80°；南侧山坡一般较缓，坡度25°～40°；岭脊多呈锯齿状，山势挺拔，层峦叠嶂，多为悬崖峭壁，又有奇峰突起，远眺山峰如林。海拔多在1500～2000米之间，部分山峰达2000米以上。相对高度600～1200米。其中海拔超过2000米的山峰主要有：龙峪湾鸡角尖2212.5米，为伏牛山最高峰；余次为玉皇顶2211.6米，马鬃崖2200米，老君山2192米，石人山2153米，白云山鸡角尖2145米，娘娘山2148米，龙池墁2129米，华宝山2072米，中鼎山2052米，白云山2050米等。峰顶时常云腾雾绕，初夏常见风雪天气，被称为河南的屋瓴。明代诗人谢榛曾赞美伏牛山是“天连山势全雄晋”。
    伏牛山地第四纪时曾受到古冰川的作用，在海拔2000米以上地带，至今尚有冰斗地貌形态存在。伏牛山山势高峻，气候湿润，且垂直变化明显，天然植被较好，野生动植物种类繁多。1982年8月，河南省人民政府批准将伏牛山北坡的龙池墁（4667公顷）和老君山（2000公顷）划定为综合性森林和自然景观及珍稀动植物资源自然保护区，水源涵养自然保护区。这对于保护和研究该区域野生生物的丰度、稀缺性、自然性、脆弱性、典型性、多样性等，具有重要的意义。