景区内主要出露的地层为距今5亿年前形成的寒武纪早、中寒武世古老地层。景区内地质构造复杂,有四条大断层与南江河斜交。景区主要出露的岩石有：厚层至块状石灰岩、薄版状灰岩、泥页岩、白云质灰岩、岩溶角砾岩等。
南江大峡谷的成因：开阳属于亚热带季风气候，年均降水量1197mm，水中CO2和有机酸含量较高，岩溶作用较强烈。地质上有逢沟必断的说法，南江大峡谷位于一张扭性断层带上，地下水沿岩石裂隙或落水洞向下运动时发生溶蚀，形成地下溶洞和地下河，其中破碎岩石和碎屑被碳酸钙胶结，形成岩溶角砾岩。当溶洞顶部岩石发生崩塌，地下河出露地表，从而形成陡峭的峡谷。随着地壳上升，地下水位随河流下切而降低，又形成新的地下溶洞和地下河，当溶洞顶部岩石再次发生崩塌时，地下河出露地表，峡谷更加陡峻。梯子岩一带地质历史上地下溶洞群和大小不一的溶洞大厅群极为发育，并在不同地质时期发生多次崩塌后，形成四面环山的溶蚀洼地。
由于景区内碳酸类岩石大量出露，其风化壳上发育的土壤都是土层浅薄，没有明显发生层次的非地带性土壤——岩成石灰土，
这种土壤中钙离子含量高，团粒结构好，土壤呈中性至微碱性反应，但土层浅薄、蓄水、保水力差，因此土壤干燥缺水，植被的生境条件十分恶劣。为适应这一特殊生境，植被多具有旱生性、岩生性和喜钙性特征。在风化壳较厚或有砂页岩出露的低中山地区，有地带性土壤——酸性黄壤的分布，其上分布着马尾松、杉木、芒萁等喜酸植物。