1553至1566年，是東南沿海[[倭寇]]為禍最烈的時期<ref name="鄭">{{cite book|author=鄭樑生|title=《明代倭寇》|publisher=文史哲出版社|location=台北|year=2008|isbn=9789575497712|language=zh-hant}}</ref>{{rp|17}}。當時浙江倭寇肆虐，朝廷選派有才能的將領前往浙江，增強當地軍力<ref name="富"/>{{rp|308}}。1555年，戚繼光調任[[浙江]]，擔任浙江都司僉書，負責[[屯田司|屯田]]事宜，次年受浙江[[總督]][[胡宗憲]]賞識，升任[[參將]] <ref name="鄭"/>{{rp|128}}，負責防御[[錢塘江]]以東地區，並支援[[寧波]]、[[紹興]]、[[台州]]三府。他與台州知府[[譚綸]]一同訓練當地軍隊對抗倭寇。譚綸很賞識戚繼光，從此一直把戚繼光留在左右。戚繼光計劃訓練[[鄉勇]]以抵御倭寇，得到胡宗憲批准後，他開始招兵，1557年，在紹興招募了三千多人進行訓練。1558年，戚繼光在[[舟山群島]]抵抗倭寇，並不成功。他發現將城市人訓練為精兵實在困難，決定只訓練農村青年<ref name="富"/>{{rp|308}}。1559年，官兵進攻浙江[[岑港鎮|岑港]]的倭寇巢穴，久而無功，戚繼光和俞大猷雖然沒有參與戰鬥，卻被降職，受令限一個月內蕩平岑港，否則帶至京城問罪<ref name=" 鄭a鄭"/>{{rp|128-129}}。之後戚繼光受命負責訓練來自[[義烏]]的三千多名志願者，創立新的陣形「鴛鴦陣」<ref name="富"/>{{rp|308}}。戚繼光有感當時官兵漫無紀律，猶如烏合之眾，旗號猶如兒戲，練兵特別注重軍紀、戰術、戰技、偵察，並培養士兵的戰鬥精神<ref name="鄭"/>{{rp|180、186、188}}。這支軍隊後來以戚家軍聞名，有效打擊倭寇<ref name="牟">{{cite book|editor=[[牟復禮]]、[[崔瑞德]]|others=張書生等譯|title=《劍橋中國明代史》|url=http://www.guoxue123.com/other/jq/ming/index.htm|publisher=中國社會科學出版社|location=北京|year=1992|isbn=7500410115|language=zh-hans}}</ref>{{rp|546}}。

明朝開始重視北方邊防，戚繼光被召到北京，負責到京城北部訓練軍隊。離開閩浙前，他把自己出色的舊部皆委以軍事重任。1567年戚繼光到達北京後，獲任命為[[禁軍]][[神機營]]副將，這是他父親曾擔任過的職位。他自覺無用武之地，請求負責[[薊州]]、[[遼東]]、[[昌平]]和[[保定]]地區的防務。譚綸比戚繼光先入京，擔任[[薊遼總督]]，極力推薦戚繼光。1568年5月，戚繼光受命總理薊州、昌平和保定三地防務，次年又兼任薊州[[總兵]]。1570年，譚綸由薊遼總督轉任[[兵部尚書]]，戚繼光則仍留守薊州，其後輔佐了四任[[總督]]。戚繼光訓練一支作戰有方的軍隊，在[[張居正]]和譚綸轄下嚴密佈防<ref name="富"/>{{rp|310}}。張居正對戚繼光十份信任，指示他要保持邊境和平，不要主動進攻<ref name="牟"/>{{rp|567}}，而戚繼光自己則其實想採取攻勢<ref name="黃"/>{{rp|164}}。1571年明朝與蒙古訂立和約。與在沿海平定倭寇相比，戚繼光守衛長城抵禦蒙古人的十五年間，可謂平靜許多。他從一名戰略指揮轉型為一位軍務管理者。他請求徵調一些他在浙江時的舊部<ref name="富"/>{{rp|310}}，朝廷批准把他在浙江訓練的士兵調到薊州，最初員額為三千人，後來擴充至二萬。由於北方士兵質素極不理想，戚繼光還是主要信賴來自南方的舊部<ref name="黃"/>{{rp|159、161}}。1573年，蒙古[[土蠻]]與[[俺答]]曾侵犯邊境，戚繼光領兵截擊。蒙古人因畏於戚繼光守邊，此後不敢再進犯薊州<ref name=" 鄭a鄭"/>{{rp|126}}。

戚繼光訓練的部隊，分為營、總、官、哨、隊五級，十二人為一隊，四隊為一哨，四哨為一官，四官為一總，四總為一營，一營將士3072人。實戰時，視乎敵人多寡強弱，隨時調整，有時四級，有時三級<ref name=" 鄭a鄭"/>{{rp|136}}。他嚴格訓練士兵的武藝，要士兵互相切磋，練習跑步以鍛練體力；訓練時要士兵操持較重的武器，使他們上陣時使用兵器更為純熟<ref name=" 鄭a鄭"/>{{rp|147}}。他深知倭寇戰鬥力強，要以五對一的優勢迎敵。戚繼光為部下配備少數[[火銃]]與火炮<ref name="富"/>{{rp|308-309}}，他知道火器的威力，但在實戰中並不依賴火器。當時明朝所造的[[鳥銃]]質素太低，銃管常會炸裂，以致士兵提心吊膽，不敢雙手握銃以作瞄準，有的鉛彈與火炮口徑尺寸不合，有的火炮[[導火線]]無法燃點。因此戚繼光只把火器應用於有限範圍。後來他為每隊步兵配備[[鳥銃]]二枝<ref name="黃"/>{{rp|153-154}}，規定銃手必須出發前領取足夠彈藥，臨陣時假稱用完彈藥，以畏敵論罪<ref name=" 鄭a鄭"/>{{rp|148}}。

明朝官員對應在陸上還是在海上迎擊倭寇意見分歧，戚繼光傾向在陸上迎敵，他建立三層防禦體系，在福建沿海小島建立哨站，大軍戍守主要城市，他自己則指揮一支高度機動的軍隊，一聞警報便立即趕赴<ref name="富"/>{{rp|309}}。他在城鎮四面重要路口設下哨兵，每處三或五人，日夜值班，遇有敵情，以火銃和火把作出警報，警戒嚴密，使敵人無法突襲<ref name=" 鄭a鄭"/>{{rp|139}}。戚繼光作戰時顧慮精密，臨陣前兩三天，戚繼光就派兵偵察敵情，要每兩小時報告一次。地圖用紅黑兩色繪製，有時甚至用泥土塑成地形模型。他以一串740粒珠子的捻珠計時，以掌握準確時間<ref name="黃"/>{{rp|156}}。