1926年北洋政府徹底垮台，張國淦五十歲，決定不再參與政治，寓居[[天津]]英租界小營門外。清末在[[黑龍江]]任職時，他曾編撰《黑龍江志略》，繪製《黑龍江全省輿圖》，此時仍繼續類似工作，經常一個人往返於 [[ 天津 ]] 、 [[ 瀋陽 ]] 、 [[ 旅順 ]] 之間，調查當地史志，專心從事“中國古方志”的收集、研究、整理。