刘大夏见皇帝已经了解了事情，为自己上任以后的改革创造了条件，才走马上任，接过兵部尚书的大印。从此，孝宗皇帝更加亲信刘大夏了，只要遇到难以决断的事，必召他前来询问，常常言听计从。
过了一年，遇到京师大旱，刘大夏借机再次上疏孝宗，称兵政的弊端还没有完全革除，乞求退休还乡。明孝宗知道他又有什么新的花样，当然不准，让他详细开列所应革除的弊端。于是，刘大夏把兵政十害逐条列出呈上，孝宗看完奏疏，觉得切中要害，便赞许地采纳了。
孝宗越来越器重刘大夏，经常单独召见他，把他当做了知己朋友，两人经常像一对老朋友一样促膝而谈。一次，孝宗诚心诚意地问刘大夏：“天下什么时候才能太平？朕又怎样做才能如古代帝王一样呢？”刘大夏也诚恳地回答说：“想学习古代的帝王并不是太难，要注意的问题是，求治不宜过急，过急了就必然造成一定的混乱。凡任用官员和施行政事，可以召见内阁官员及执政大臣当面商议，与他们诚心诚意地交换意见，在听取各方面的情况介绍后，再去施行新的政策和法令也不迟。这样，不仅能集思广益，也可以赢得众人之心，求得顺理以达到天下太平。”