朱元璋建立大明之处，承袭元代制度，在朝廷设中书省统领六部，主管全国政务，职权甚重。在地方设行中书省掌管各地的军、政事务。
洪武十三年，朱元璋以‘谋反’之罪杀了时任中书省左丞相的胡惟庸后，乘机废掉了中书省，将中书省之权分到六部。随后，在各地又建立了承宣布政使司（掌政务）、按察使司（掌刑狱）、都指挥使司（掌军务）三司并立的制度来取代行中书省。
三司的设立虽然解决唐末、五代藩镇割据的问题和宋、元地方权力过重的问题，大大加强了中央集权，有利于帝国的稳定，但随之产生了一个很大的问题——‘三个和尚没水吃’。
比如说始终困扰着大明的流民问题，他们原本都是在籍的民户和军户，所以解决流民问题应该归布政使和都指挥使负责。可是，当他们群聚为盗后，似乎又该按察使来处理这事。如果他们的规模进一步扩大，开始攻掠州县后，那就应该由都指挥使领着卫所士卒前去平定。
然而，现实的情况是布政使、按察使、都指挥使都不想对这个流民问题负责，都认为这个事是其它两司的事，跟自己没有关系。并且，由于三司互不隶属，所以谁也管不了谁。
这下，就轮到朝廷头大了，在三司的互相推诿扯皮中，流民问题愈演愈烈。于是为了解决这个问题，朝廷只能派出一个人前去协调三司共同负责。这便是明代巡抚制度的开端。
明代巡抚设立之初是属于临时性质，‘有事派出，事罢回朝’。但是由此在解决了一个问题的同时又产生了一个问题，比如有些地方的问题还没解决，其它地方又出了问题需要朝廷派遣巡抚来解决，或者是巡抚在解决了某地的问题后开始回朝，在回朝的路上当地又出现了问题，他还得再回去。长此以往，不仅朝廷不厌其烦，就连派出的巡抚往往也因一出去就是三年五载而苦不堪言。
最终，为了彻底解决这一问题，明代宗朱祁钰于景泰四年下令将巡抚与各地镇守文官合二为一，仍称巡抚，并节制三司，常驻各地。
单从表面上来看，明代的巡抚与唐代的节度使似乎区别不大，因为两者都是掌管一地军、政事务的封疆大吏。但是在随后的发展中，明代的巡抚与唐代的节度使却走上了截然相反的两条道路。
明代的巡抚成为常设官职后，朝廷一直在采取措施给他减权。一开始，跟巡抚同时设立还有总兵与镇守中官，这样虽然巡抚能一体节制都、布、按三司，但有了总兵与中官的制约，巡抚的权力实际上并不大。可是随着武将地位的持续下滑和镇守中官的断续设置，巡抚的权力又开始不断加强。
对待这个问题，大明朝廷又设立了巡按御史这一常驻地方的官职。虽然巡按御史品级不高，但由于其是代表朝廷监管、督察地方，所以他对巡抚产生了很强的牵制作用。尤其是嘉靖以后，朝廷开始陆续向各地派出总督，这就进一步加强了对巡抚的控制。
不仅如此，巡抚和其他地方官吏的升迁、赏罚都归吏部掌管，巡抚没有人事权。在军事上，巡抚只有取得兵部发给的令旗才能调动所辖地域的卫所士卒。在这种层层制约、不断分权的情况下，明代巡抚虽为封疆大吏，但远没有割据自雄的能力。
反观唐代的节度使，设置之初，只是作为各地的军事统帅，主要负责防御外敌，而没有管理州县民政的职责。但是后来，节度使的权力不断被加强，逐渐总揽一地的军、民、财、政，所辖区内各州刺史均为其节制，并兼任驻在州之刺史。
安史之乱后，大唐朝廷对节度使的控制力进一步减弱，节度使不仅掌管一道或数州的军事民政、官吏任命、将士升赏、征税，还获得了事实上的独立地位，父死子继，自以世袭，号为留后而不待朝命。这样，节度使就发展成了一方诸侯。
如此一来，唐代节度使就与明代巡抚产生了本质上的不同，所以唐代出现了藩镇割据的混乱局面，而明代几乎不可能出现这种局面。
