由於需要不斷地遣撤舊勇，另建新營，對兵員的需求量就相當之大，據曾國荃統計，僅湖南湘鄉一縣，前後從軍的人便有二十余萬之多。

按照自己的設想，曾國藩上疏朝廷，請求由兩淮兵勇組成淮揚水師，以作為創建淮軍的前奏和鋪墊。曾國藩安排李鴻章幫助湘軍水師將領黃翼升經辦此事，不料兩淮當時已成為太平天國的勢力範圍，李鴻章暫時無法前往。後來因為替李元度向曾國藩求情，李鴻章一怒之下離開了祁門大營，以淮勇辦水師的事也就只能泡湯了。

為什麼湖南人能當兵打仗，幾個鄰省的人就不行呢？細究起來，這與當地風氣大有關聯。湖南民風之強悍，在歷史上是有名的。當初太平軍進入湖南而湘軍尚未建立時，境內民眾便立刻自發分化為壁壘分明的兩派，一派投入太平軍，九*九*藏*書一派成為結堡自守的民團，這兩派立場完全不同，但都毫不遲疑地與對方誓死爭鬥。這種民風，在當時的湖南各地少有例外。

曾國藩對戚繼光的這一策略非常服膺。湘軍軍制，凡一個軍營染上暮氣，就必須立即全部遣散，另行招募新軍。曾國藩引用北京舊鞋鋪里的一句諺語，稱之為「抽幫換底，整舊如新」，意思是就好像鞋鋪把舊鞋的底子換上新底子，便能夠使之煥然一新。

失敗的原因主要是淮河兩岸地區的士族力量薄弱，士紳集團受理學忠君的思想影響較淺，見清廷和太平天國對峙日久，相持不下，便對形勢大多採取了觀望和兩面應付的態度。

等到曾國藩出任兩江總督，又再度提出了創建淮軍的計劃。他認為，兩淮地區應該不愁招不到合適的勇丁，hｔｔｐs://ｒead.9９csｗ•ｃoｍ只是缺乏訓練人才而已，倘若能用湘軍的制度來訓練兩淮勇丁，同時嚴格紀律，並多訓練一段時間，不但能練出好兵，還有望從中選拔出一兩個日後的名將之才。他樂觀地估計，這樣一支淮軍將成為聲望不減于湘軍的勁旅。

安徽的情形則與湖南、湖北、四川、江西都不大相同。安徽除通常以長江劃界，分成皖南皖北外，還可以按經濟文化水準，大體分出三區，即最南面的皖南地區、最北面的兩淮地區以及夾在兩區之間的皖中地區。

反觀同時期的湖北、江西，太平軍一來，民眾就趕緊蓄起頭髮，清軍一來，又馬上剃頭，民風差異，顯而易見。四川素為天府之國，有漁鹽之富和商賈之利，老百姓生活安逸，民間肯冒兵戈之險從軍的人自然更不會多。

九*九*藏*書相比兩淮，皖中的士族力量較大，理學思想影響深。再者，皖中地區有的為太平軍鞏固的根據地（安慶），有的為拉鋸戰區（廬州一帶），戰鬥激烈頻繁，持續時間長，各縣團練頭目或有父兄被太平軍所殺，或財產被毀，房屋被占，客觀上也使他們喪失了妥協觀望的餘地。

三區中最窮的是兩淮地區，包括明太祖朱元璋的老家鳳陽在內，都是「十年倒有九年荒」的所在。兩淮在嘉慶時就出現動蕩，至道光年間日趨嚴重，在鳳陽、穎州兩郡，搶劫和殺人放火的事件層出不窮，犯案者甚至敢和官府對抗，公然拒捕。

皖南是三區中最富的，這主要是由於徽商的緣故。太平軍攻入皖南時，紳商們曾集巨資獻給太平軍，試圖換取對方不攻奪他們所在的城池。可是太平軍作戰本有其既定的戰略目的，往往都是九_九_藏_書錢財收了，城池也照攻不誤，於是有人就諷刺說：「徽人必有抱金而死者！」顯然，皖南民風不過是湖北、江西、四川的翻版，在這裏很難招募到敢戰能戰的武士。

除湖南外，從就近原則出發，胡林翼、曾國藩、駱秉章也都曾分別籌劃在湖北、四川、江西招募勇丁，並按湘軍成法，組建由該省勇丁組成的新營。可惜的是成效都不顯著，有的剛剛成立不久就被裁汰了。比如胡林翼撫鄂時，就想招鄂人為兵，選鄂人為將，結果所建的部隊根本就不能用，最後他的所謂鄂軍其實仍是湘軍，從兵到將大部分都是從湖南招募過去的。

曾國藩最初創建湘軍的思路，很多都取法於戚繼光。戚繼光練兵用兵有「澄定渾水，再汲新水」一說，渾水指的是舊軍，新水指的是新軍。按照一般經驗，士兵從征的時間一久，都會漸漸染九-九-藏-書上暮氣，秉性善良者思鄉心切，凶暴狡詐者甚至會為敵方所誘而另有圖謀。戚繼光的對策是以新代舊，用重新招募的新軍來替代暮氣沉沉的舊軍。

經歷兩次失敗后，再議創建淮軍，曾國藩和李鴻章都把目光從兩淮移向了皖中。皖中在經濟文化程度上居於皖南和兩淮之間，同時因其北面與兩淮接壤，東面的巢湖又是鹽梟出沒之區，因而民風也較強悍。

發現兩淮風氣剛勁，還在李鴻章初入湘軍幕府時，曾國藩就決定由他主持招募淮南勇五百人，組成淮南騎兵，為創建湘軍騎兵探路。李鴻章受命后，派人到兩淮募勇，但當地士紳卻借口團練僅保衛鄉里，對前往招募的人員百般阻攔，結果這次試驗沒能成功。

此次李鴻章受命出征，最大的困難還是沒有兵，湘軍的規矩是兵為將有，於是曾國藩便派他招募淮勇，用以組建援滬之師。