1865年9月，丁日昌轉任兩淮鹽運使。
1867年初，升任江蘇布政使。雖然布政使的本職，只限於處理地方財政和行政，但他心繫國防安危，對海防建設十分關心。
他上書曾國藩，明確提出自己建設新式海防的主張，希望曾國藩能夠上奏朝廷。
在他看來，華夏國的海防，自明朝以來就是「以炮台為經，以師船為緯」，這種設防辦法根本不能適應近代海防的要求。
因為洋人游弋海上，可以集中兵力，攻取華夏國沿海任何地方；若華夏國處處設防，則防不勝防，正犯兵家備多力分之忌，以致常常被動挨打。
丁日昌認為要想改變這種局面，只有創建近代海軍，以取得制海權。有了制海權，能夠控制住一定的近海海域，就可以擴大防禦縱深，海防才有保障。
要想取得制海權，必須在清朝舊有水師之外，創設全新的近代海軍。因為在西方海軍已經裝備了蒸汽動力艦、鐵甲艦的情況下，清朝舊式帆船水師實際上已完全無力進行近代海戰。
丁日昌在19世紀60年代，就有這種認識，說明他是很有遠見的。在他之前，左宗棠等人也曾主張製造輪船，裝備外海水師，但並沒有明確地提出建立海軍的主張和計劃。
丁日昌的海軍建設，具體計劃是分設北洋、東洋、南洋三支水師。
北洋水師設提督於津沽，兼顧遼東、山東沿海各要口；東洋水師設提督於吳淞，守江蘇、浙江沿海各口；南洋水師則設提督於廈門，防守福建、廣東各海口。
三支水師，各設中等炮艇土，半年會哨演習一次，以使「三洋聯為一氣」。
這個計劃，是一個統籌全局的海防戰略構想。
有了三洋水師，就能分別對京師政治中心、江南經濟中心和祖國的南大門，加以屏障和保護。
1868年初，丁日昌升任江蘇巡撫。隨著職位的提高，他更加感到自己對於國防建設的責任重大。他重新擬訂了三洋水師章程六條，使自己建立新式海軍的計劃變得更加具體。
他明確提出，要廢棄沿海舊有水師，移餉訓練新式海軍。
除了中等炮艇外，又進一步提出三洋水師應各設鐵甲艦6艘。
這時，他還強調近代海軍的建設，應與沿海炮台、岸防部隊的建設同步發展。
他建議三洋海軍艦隊各練陸兵千人，半年在岸，半年在海，沿海各鎮亦練精兵五百人，形成「山有虎」、「水有龍」，水陸相聯之勢。
對於海口炮台建設，丁日昌也主張變更過去的辦法，以炮台和水雷為中心，建設新式海口要塞，使水師艦船在作戰時，能夠和海口炮台「相為表裡，奇正互用」。
這表明他的海防建設思想，又有了新的發展。
在對陸軍體制的改革方面，1869年丁日昌開始對江蘇綠營進行整頓。
他上奏朝廷，將江蘇撫標綠營1600餘名減為1000名，成立「練軍」兩營，招募精壯營勇作為練軍士兵，提高他們的餉額，使他們能夠安心操練。
這支練軍全部改用洋槍洋炮，學習准軍洋操。
丁日昌組織有關人員，將洋人教練淮軍的辦法翻譯成中文，繪圖注說，編成《一哨操演圖說》、《一營操演圖說》、《一軍操演圖說》各一卷，以之作為江蘇練軍練習洋操的依據。
在晚清各省練軍中，江蘇練軍是最早裝備洋槍洋炮、實行西式操練的。
後來，江西等省練軍的洋操辦法，就是從江蘇練軍學來的。
用近代槍炮和洋操，來改造清朝的經制部隊，這在華夏國近代軍制發展史上是佔有一定的地位的，它為清末新軍的全面改革開闢了道路。
丁日昌在整頓綠營，設立練軍的過程中，十分強調精兵的原則。
他認為：「自古強兵之道，以多而弱，以少而強，以散而弱，以聚而強。」
他提出要「並兵厚餉，化散為聚」，對全國的兵勇大加裁汰。實行精兵政策，是與近代軍隊建設的實際相適應的。清朝全國綠營兵60餘萬，加上八旗和勇營，數量相當龐大。
但國家財力有限，兵勇糧餉菲薄。
特別是綠營兵，糧餉不足自養，大都兼營他業以謀生，訓練成為空話，毫無戰鬥力可言。
要想整頓綠營，就得加強訓練；要想加強訓練，就得增加餉額；要想增加餉額，只有裁兵並餉一法。丁日昌的精兵主張，與魏源的思想一脈相承，可謂切中時弊。
在改革陸軍的軍制方面，丁日昌還提出了分設野戰部隊與地方治安部隊的主張。
在設立練軍時，他提出練軍必須集中訓練，專事征戰，使之成為「游擊之師」。
他認為應該將「戰兵」與「差兵」、「汛兵」截然分為兩途，把護餉、解犯、守庫、守陵、分泛等項綠營例差，一概責成差兵和汛兵，使戰兵「專心防剿，可免外侮之侵凌」。
而野戰部隊與地方治安部隊分設的主張，是近代軍制發展的必然趨勢。
因為在外患頻存的情況下，若不改變綠營「差操不分」的陳規，專門建立一支精幹能戰的野戰部隊，便無法適應反侵略戰爭的需要。
丁日昌的這一主張，是林則徐、魏源反對臨戰時，抽調「客兵」，專門建立海防部隊思想的又一重要發展。
在建設基礎設施方面，1875年{光緒元年}6月，丁日昌奉旨北上天津，幫岡北洋大臣李鴻章商辦事務。9月，在沈葆楨的推薦下，出任福建船政大臣。
次年初，又奉命兼署揭建巡撫。丁日昌抵任後，提出要對船政局的生產加以革新，希望能派員往外國學習，延聘外國技術人員采廠當教習。
他和李鴻章、沈葆楨等，奏准福州船政學堂第一批留學生35名赴歐學習，其中有嚴復、劉步蟾等人。丁日昌認為電報可以通軍情，為海防所必需，積極主張自設電報。
他親自與丹麥大北公司交涉，收買了福州至羅星塔電線，成為華夏國自營的第一條電報專線。
隨後，他又主持架設了台灣府城至安乎、旗後電線，成為華夏國第一條自建電報線。
丁日昌性情本急，加上長期操勞過度，身體早就極度虛弱，患有咳血等症，在台灣又因瘴氣浸染，舊病復發。
1877年8月，他因病離職回籍休養。此後，清廷一再表示希望他再度出任海疆和樞廷要職。
1879年，下諭賞給他總督銜，令他專駐南洋，節制南洋沿海水師官兵，悉心辦理海防事宜。
不久，又命他兼任總理各國事務衙門大臣，但他都因病未能出山。
丁日昌雖然身在林泉，但他對國家的防務仍時時予以關注。
1879年6月，他上奏清廷，對海防等問題提出16條建議。
由於琉球的廢滅，丁日昌對扶桑的侵略野心益加警惕，指出扶桑「三五年不南攻台灣，必將北圖高麗」。
他大聲疾呼，朝野內外一定要齊心協力，急謀自強，否則將國無寧日。他還認識到「民心為海防根本」，只有老百姓的生計有著落，元氣得到恢復，才能眾志成城，海疆安如磐石。
因此，他希望統治者們能夠切實關心百姓的痛苦，從根本上使華夏國強大起來。
1881年，丁日昌獲悉法人對越南之經營日趨積極，便給總理衙門王大臣寫信，提醒他們予以關注。他說，越南為法人蠶食，萎靡不振，若聽其自然，必成為第二個琉球。
他建議清廷密派廣西巡撫或提督，與越南密商自強辦法。他自己還曾組織人員，翻譯法人所繪著的中越邊境地圖和說明，以揭露法國的侵略行徑。
1882年2月27日，丁日昌病死在廣東揭陽。
臨終前，他回顧自己多少年的努力，卻並沒有使華夏國在軍事上強大起來，外患愈來愈亟，不禁悲愴之至，口授遺折，長歎自己「死有餘憾」。
丁日昌生活在一個戰亂與變革的時代，所考慮的主要問題，就是如何強兵禦侮。
他為此做出了不懈的努力，真可謂孜孜不倦，嘔心瀝血，鞠躬盡瘁，死而後已。