关陇贵族集团的形成在当时有着一定的历史土壤。中国古代在魏晋时期有过许多政治贵族，几乎垄断了当时全部的政治权力，到了南北朝时期，曾经风光无限的东晋门阀世族们，随着东晋的灭亡，刘宋的兴起而逐渐衰败，王谢庾桓这些响当当的贵姓也已经不复当年，眼看中国贵族的黄金时代就要结束，这时，一个新兴的贵族集团横空出世，一飞冲天，延续了中国贵族时代的寿命，并开创了一个前所未有的伟大时代，这就是纵横中国近二百年的关陇军事贵族集团。

关陇贵族集团的基础是八大柱国。柱国，原意是北魏的柱国大将军这一称号，始封于尔朱荣，尔朱荣败亡后被废置，到宇文泰再兴东魏时又重新设立。在西魏大统十六年以前柱国大将军这一称号共封给八个人，分别是：宇文泰（李世民外曾祖父)、元欣（西魏皇室）、李虎（李渊祖父）、李弼（李密曾祖父）、于谨、独孤信、赵贵、侯莫陈崇，当时号称“八柱国家”，八柱国中赵贵成就宇文泰之功，元欣佐宇文泰以皇室之威，李虎以战立名，李弼将略能军，于谨以谋辅事，侯莫陈崇以勇纵横，独孤信以德抚民。其中宇文泰总领诸军，而元欣为西魏皇族，兵权受到限制，剩下的六人每人统领两名大将军，即为府兵中的“十二大将军”。在这八柱国十二大将军中，产生了从西魏到北周再到隋，直至唐初的新一代门阀贵族，而这几个时代的皇室后族大多都出自这些家族——宇文泰子孙为北周皇族，李虎子孙为唐朝皇族，大将军杨忠子孙为隋朝皇族，北周历代皇后多在这些家族中产生，隋文帝的皇后与唐高祖李渊之母都出自八柱国里的独孤信。

大唐史书曰：“今之称门阀者，咸推八柱国家。当时荣盛，莫与为比。”

另外，府兵中的十二大将军具体为元育、元赞、元廓、宇文导(宇文泰侄儿)、宇文贵、李远、达奚武、侯莫陈顺、杨忠(杨坚之父)、豆卢宁、贺兰祥(宇文泰外甥)、王雄，皆世之名将。此外另有王思政、王罴、蔡佑、耿豪等名将。关陇集团中，其它后起将才如宇文宪(宇文泰第五子)、尉迟迥(宇文泰外甥)、韦孝宽、长孙晟(唐朝长孙皇后之父)、贺若弼、韩擒虎、李世民(宇文泰曾外孙)、李靖(韩擒虎外甥)、侯君集等都是不可多得的名将，这么多具有文韬武略的经天纬地之才，为北周统一北方以至隋唐统一全国奠定了坚实的人才基础。

宇文泰组建的关陇集团，除上述两部分人外，最重要的是关陇地区的士人地主，他们或为州郡著姓，拥有大量乡兵，或世家门阀，有较高的传统文化修养。宇文泰拢络、团结他们，一方面将其所统领的族兵、乡兵府兵化，直接转化成自己的“侍官”，一方面则利用他们手中所掌握的文化知识为自己的政治服务。

例如原州高平人李贤，“太祖清扫关辅，公轻董千骑，奉迎六军”。原州为西魏、北周一代在北方的军事重镇之一，宇文泰在消灭侯莫陈悦之后，即以原州为根据地，然后才占有关陇。这里东进可击东魏、北齐、北为根据地，南下可直取巴蜀江南，又是阻止柔然南下的重要关隘。李贤为原州酋豪，其家族在当地颇有势力，宇文泰多次“幸贤第，让齿而坐，行乡饮酒礼”，又“令贤乘格，备仪服，以诸侯礼相见，然后幸贤弟，欢宴终日，凡是亲族，颁赐有差。”李氏一族成为关陇集团中最主要的人物，其“一门之中，为柱国者二，大将军者三，开府者七，仪同者九，孤卿者六，方伯者十有五焉至于常侍、侍中之任，武卫、武率之职，总管、监军之名，车骑、漂骑之号，冠盖交错，剑佩陆离，胡可称矣”。