[[2000年中華民國總統選舉]]敗選後，國民黨首次成為[[在野黨]]。國民黨敗選後，黨內長期不滿李登輝的人士要求其辭去黨主席一職。在[[宋楚瑜]]宣佈將在黨外組織親民黨之後，李登輝即將國民黨主席一職交予[[連戰]]代理。連戰在國民黨十五屆中央委員會接任黨主席後，宣布舉行國民黨黨員重登記，整頓國民黨黨務。2001年9月21日，由於為政治立場相左的[[台灣團結聯盟]]候選人站台，李登輝正式被國民黨開除黨籍。[[2001年中華民國立法委員選舉]]中，國民黨再度遭到挫敗，失去立法院第一大黨的地位，但連同[[親民黨]]及[[新黨]]，[[泛藍]]仍獲得過半席次。2003年2月，國民黨和親民黨決定共同推出一組候選人連戰、[[宋楚瑜]]角逐[[2004年中華民國總統選舉|2004年總統大選]]，結果以不到3萬票之差敗選。

2005年，連戰與時任中共中央總書記[[胡錦濤]]在北京進行會談，並達成[[2005年中國國民黨和平之旅|五點共識]]。之後，連戰表示不再續任國民黨主席，時任國民黨副主席、[[臺北市長]]的[[馬英九]]擊敗[[立法院院長]][[王金平]][[2005年中國國民黨主席選舉|當選國民黨主席]]<ref>{{cite web|url=http://news.xinhuanet.com/taiwan/2005-07/16/content_3227744.htm |title=馬英九當選國民黨主席 王金平敗選 |publisher=News.xinhuanet.com |date= |accessdate=2017-05-23}}</ref>。2007年2月13日，馬英九因[[臺北市長馬英九特別費案|特別費案]]遭到起訴，辭去黨主席職務，副主席[[吳伯雄]]代理並當選黨主席。2008年馬英九當選總統，並在2012年成功連任，兼任黨主席。2013年爆發[[九月政爭]]，最終王金平在獲法院保留黨籍的情況下，繼續出任立法院長。[[2014年九合一選舉]]國民黨慘敗，同年12月3日馬英九再次辭去黨主席。