西汉在地方，有经过训练的预备军，根据地区的具体条件，分别设材官（步兵）和骑士（骑兵），这些预备队皆由郡守和郡尉掌管。常备军和预备军的兵员，都由郡国征调来的“正卒”充任。
郡国兵
郡国兵是西汉的地方部队，分为内郡兵和王国兵，分别有各地郡守、都尉和各王国的中尉统领，主要驻扎在各地郡治、王国都城和都尉治所，各县也有少量部队驻扎。士兵也是本地郡县、王国内征调服役，时间为一年。
郡国兵平时接受军事训练，负责维护地方治安，战时则受征调出征作战。每年的八、九月份进行“都试”，郡守、都尉、中尉均到场检阅，对其进行评论高低，划分等级。服役期满之后，返乡回家，成为国家的预备兵员，随时准备再次入伍当兵。
郡国兵的征调、发兵的权利理应属于中央朝廷，但在西汉初期由于郡国并行制的实行，王国权利较大，王国兵员对于中央朝廷具有相对独立性，不受中央朝廷的指挥。七国之乱以后，中央逐渐加大对王国的控制，王国兵的相对独立性也日益削弱。
汉武帝时期，施行了一系列的中央集权措施，才真正的统一了郡国兵的军事指挥权。如在政治方面，通过酎金夺爵、推恩令等削弱诸侯王势力的措施，将权力收归中央；在经济方面，上林苑设置钟官、辩铜、技巧三官，将铸币权收归中央，通过军饷发放控制王国军队。削除了内地的军事隐患，对于对外作战的汉朝来说，是一个极大利好，可以全心投入到对外作战之中。
边防兵
西汉边防军包括边地地方兵、属国兵和由内地派遣驻守于边地的内地兵。西汉建立后，初期中央政权实力较弱，边防力量主要依靠汉初分封的诸侯王。在平定七国之乱以后，随着中央实力的增强，逐步收回诸侯王权利，边防力量也逐渐收回，掌控在中央政权之下。武帝时期，在边境地区逐步设立了数十个边地郡，以及将内附的少数民族划分为“属国”，加以羁縻。
边地兵
由于西汉边境匈奴、乌桓、西南夷族、东南百越等少数民族众多，且侵扰频繁。西汉中央为防备少数民族的侵扰。在边境地区的郡县中推行较为特殊的管辖方式。中央赋予边郡太守以较大的自主权和军权，对边地兵有一套特殊的管理方法。太守是一郡之中的最高军事长官和行政长官，其下属官分为常设职官和临时职官。
常设职官有将兵长史、司马、丞等；临时职官则为部都尉，下属职官有丞、千人、司马、侯等。边地兵为常备兵，受太守管辖。边地战事频繁，多临时发生，不易传达中央。因此太守被赋予军事独断的权利，因而比内地郡太守拥有较多自主权。为了防止太守佣兵自重，中央又在郡府之下设置若干个部都尉府，一来加强边地的军事力量，二来也是对太守的一种制约。
属国兵
自汉武帝开始，边地少数民族多内附为民。对于内附的少数民族中央多设置“属国”用以进行管辖。中央设置了“典属国”一职，对其进行管辖。对各属国委派属国都尉，作为属国的最高军事长官。各属国军队由中央进行同意指挥。属国兵的任务主要是协助边地兵进行防守边地，有时也会随汉军出征。例如太初元年，曾派遣贰师将军李广利发属国兵六千骑击大宛。
护乌桓校尉和护羌校尉
在西汉历史上，与匈奴之间的战事始终是最为主要的，与其他少数民族之间的作战相对于匈奴来说，还是处于一个不受重视的地位上的。乌桓，又称之为“乌丸”，长期受到匈奴的压迫，汉武帝时，冠军侯霍去病北击匈奴，消灭了奴役乌桓的匈奴贵族，设立了乌桓校尉，统领乌桓兵。对于防卫汉朝东北部边境起到了很大的作用。此外，武帝还在西部设立了护羌校尉。
