除了築城之外，還有就是加強浙江的兵防了。
之前嘉靖準允戚繼光在浙江招募營兵，用於禦倭，但是等到戚繼光把兵練出來，恐怕還需要時日，胡宗憲在戚繼光練成新軍之前還要另想辦法，加強浙江的防備。
在和鄭若曾、徐渭等人商量後，胡宗憲決定向朝廷請求設置杭嚴兵備一員；金衢兵備一員；嘉湖兵備一員；台州兵備一員；溫處兵備一員，五名兵備將浙江劃分為五個地域，統籌防禦。
同時，在浙江總兵下設分守杭嘉湖參將，分守溫處參將，分守寧紹參將，分守台金嚴參將四名分守參將，在總兵兵備的指揮下坐鎮一方，好讓戚繼光專心練兵。
同時，對於浙江的衛所和各處水寨，也要加以整頓，朝廷本來在浙江設立了在浙江地區共設十六衛、三十四守禦千戶所，其中海寧衛、海門衛、觀海衛、盤石衛、金鄉衛、鬆門衛、臨山衛、昌國衛、定海衛作為沿海衛所，有專司備倭的職責。
要是按朝廷的名冊上，浙江的衛所官家數量可不算上，按軍籍上的數字，浙江一省各衛有兵五萬八千七百五十餘人，水師力量更是不小，瀕海九衛戰船六百六十艘，可實際上有多少，那就隻有天知道了。
指望浙江的衛所官軍估計是不太現實的，胡宗憲等人把希望寄托在巡檢司的弓兵身上。巡檢司的弓兵並非正規軍，而是地方民兵，由州縣直接掌握。
來源主要有三：其一為均徭簽派，即所謂弓兵者每縣括民丁役之，統於巡檢，這是弓兵來源最廣泛的途徑；其二為募民充役，此種情況多出現於倭寇比較猖獗後朝廷加強地方的防禦能力；其三永充弓兵，此種途徑所占比例最小，永充的形式有兩種，一種是在明初僉編的世籍弓兵，一種是因犯罪而被謫發充軍。
巡檢司有沿海和內地兩種，沿海巡檢司的設置主要在於備倭。浙江沿海巡檢司有五十餘處，分布於備倭要地。沿海巡檢司雖屬州縣管轄，但是在軍事上受衛所的節製。裝備也比地方的弓兵要好一些，這些巡檢司的弓兵由於常年與倭寇作戰，戰鬥力還算不錯。
就是布置的太過於分散了，每個巡檢司隻有八十到一百人，胡宗憲決定增加巡檢司的兵額，以一百八十到兩百人為基準，招募民間的驍勇，包圍鄉土。
本來浙江都指揮使司下有專門的浙江總督備倭都司，負責全省的備倭事宜，但是由於現在衛所廢弛，根本起不到什麼作用。
胡宗憲還是決定上奏朝廷，要求恢複大明之前的巡海製度。在太祖時期，倭寇也是頻頻作亂，襲擾大明沿海，明太祖震怒，親自誓師，向海神祈禱後派遣明軍水師巡海殲滅倭寇，太祖皇帝當時的祝詞是：予受命上穹，為中國主，惟圖乂民，罔敢怠逸。蠢彼倭夷，屢肆寇劫，濱海郡縣多被其殃。今命將統帥舟師揚帆海島，乘機征剿，以靖邊氓。特備牲醴，用告神知。
洪武七年春正月，廣洋、江陰、橫海、水軍四衛正式開始出海巡倭：“詔以靖海侯吳禎為總兵官，都督僉事於顯為副總兵官，領江陰、廣洋、橫海、水軍四衛舟師出海巡捕海寇，所統在京各衛及太倉、杭州、溫、台、明、福、漳、泉、潮州沿海諸衛官軍悉聽節製。