祁连山为昆仑秦岭地槽褶皱系的一个典型加里东地槽，褶皱迥返于陆相泥盆系磨拉石建造之前。北祁连山及河西走廊见中、下泥盆统不整合于下古生界(如武威杂木寺)及加里东晚期花岗岩(如九条岭南马良沟等)之上;拉脊山见中、下泥盆统不整合于中、上奥陶统之上;南祁连山乌兰大坂见上泥盆统不整合于下志留统之上，代表祁连山主要于加里东晚期褶皱成山，基本由地槽变为地台发展阶段，故晚古生代一中、新生代均为地台盖层沉积。
祁连山的北界为塔里木一阿拉善地台，以大断裂分界。南界与东昆仑和西秦岭褶皱系间也为大断裂所切，两者沉积地层不同，如中吾农山一青海南山石炭、二叠系为冒地槽沉积，局部夹火山岩，而欧龙布鲁克隆起带寒武一奥陶纪时为地台型砂页岩碳酸盐建造，厚700-20xx余米，假整合于上元古界全吉群之上。