府兵制度建立于西魏、北周。在形式上采用鲜卑八部之制。550年，宇文泰设立了八个柱国大将军，正式开创了府兵制。在八柱国之中，实际领兵的只有六个柱国大将军，分统六军，合周礼六军之制。六个柱国各督二个大将军，每个大将军督两个开府，每个开府各领一军，共二十四军。这就是府兵的系统。
府兵不入民籍，另立军籍。当府兵者，自备弓、刀，甲、戈、弩由官府供给；有的自备资装，但不负担其它课役。由于不断征募农民当兵，战时打仗，农隙讲武教战，有向兵农合一发展的趋势。