沈葆楨來台不久,就發現臺灣問題重重,他歸納當時弊端有班兵惰窳、蠹役盤踞、土匪橫恣、民俗慆淫、海陸防俱虛、械鬥紮厝迭見、學術不明、聲庠序以容豪猾,禁令不守、菸賭以為饔飧等10種(二二七4頁)。是年沈葆楨上書,以「臺灣海外孤懸,七省以為門戶」地位重要,為求整治,他上書「移駐巡撫摺」,奏請福建巡撫常駐臺灣。同時為免未開化地舊事重演,主張「開山撫番」加緊建設臺灣。他更陳言:「化番為民,尤非漸漬優柔,不能渾然無間。」將平埔族漢化於無形為其用意。
臺灣地位確實重要,移請福建巡撫長駐臺灣實有諸多困難,最後達成「冬春駐臺」辦法。實施3年成效不彰,光緒3年(1878)福建巡撫丁日昌再陳建議,由閩浙總督和福建巡撫輪流赴臺,方才取消。而「開山撫番」,清廷採其建議於光緒元年(1875)1月,廢除已施行近二百年的三禁。也廢除過去嚴禁臺民私入番界禁例,使番漢雜處,化番民於無形,更鼓勵臺民往後山移墾,加速臺灣東部開發。
同時遣派北、中、南三路軍營兵馬入山撫番。南路由鳳山之赤山至臺東卑南。中路自竹山至花蓮玉里,即今所謂的「八通關古道」。北部由羅大春提督率兵,由蘇澳至花蓮奇萊。以上出兵雖說1年內完成,促進南北及東西交流,但不過都是羊腸小徑,遇雨則泥濘不堪,雜草叢生,過河亦無橋樑。劉璈在《巡臺退思錄》批評開山撫番說:
「不僅繼起無人,辦法又不得法。名曰開山,不過鳥線一道,防不勝防,且有旋開旋塞者。至今地多曠土,兵民無所憑依。名曰撫番,不過招番領賞。濫賞何益?且有旋賞旋叛者。至今殺人如故,番民格格不入。」(六四24頁)可以說沈葆楨當時受撫番民,日後又動亂,多次征剿死傷很多。直到劉銘傳任巡撫時猶末降服,其姪劉朝帶因而戰死。
由於臺南、鹿港二港日漸淤積,除在安平、旗後、東港設置新式砲台外,為暢通援台之管道,主張移防至北部的滬尾及基隆港。同時為整治紊亂的吏治,沈葆楨會同閩浙督撫,主張除原有臺灣一府外,在艋舺地區增設臺北府,並移府治於臺北。又改噶瑪蘭廳為宜蘭縣,淡水廳為淡水縣,另於竹塹設縣。並改基隆為廳設通判。使一向以南部為重心的臺灣政治,開始漸移到北部。
由於當時,朝廷極重視「臺灣防務」。除開山撫番外,尚要建造閩臺水陸電線。設軍裝局、火藥局,購買新式洋炮,及兵器。此外,尚有購置洋艦、以及開採煤礦、硫礦、樟腦、茶、鐵等許多涉及民生、財務問題。故朝廷主張另派大員專理。但因沈葆楨反對,主張仍由當時福建巡撫王凱泰擔任。而王凱泰雖見重於李鴻章、沈葆楨兩人。但對常駐臺灣,以臺灣氣候夏秋兩季多雨,山溪水漲,道路不通為由,改為春冬兩季來台。由於秋冬兩季加上建造閩臺水路電線,沈葆楨與閩浙總督李鶴年,持有不同意見。王凱泰夾縫其間,難有作為,而萌退意。正值朝廷安撫時,不料卻一病不起,長辭於世。
光緒元年(1875)12月繼任的福建巡撫丁日昌,原為船政大臣,廣東豐順人,曾任江蘇巡撫。也是第1次留美學生。因此,對洋務和吏治可謂熟識。李鴻章曾稱讚他「任事精果,實一時傑出之才。」但他對赴臺之舉,再三推辭,並上書以為臺灣之經營,須先派威望重臣督辦數年。俟有成後,再購置鐵甲船練水雷軍、鎗炮隊,造新式炮臺,開鐵路,立電線,開礦,購機器,招墾等,設非3、4百萬兩不能兼營並舉。
當時清朝財務實為困難,不僅朝廷開支龐大,新疆用兵,晉豫大飢,立待賑濟,而且北洋海防須款亦多,籌措不易。因此丁日昌僅能就李鴻章建議部份,需款較少的撫番、礦墾、架設電線、以及開設鐵路為施政重點。光緒3年(1877)他先架設完成臺南至安平、旗後,全長95華里的電線,也在此三處設電報局,成為全國最早自辦的電信事業。王凱泰任內批准,以機械採煤的基隆煤礦也開始生產。還有鐵路建設,適巧,原由英商建造的松滬鐵路上海江灣段,因民眾反對予以贖回拆除。在沈葆楨的大力支持下被運來臺。本擬借款先興建鳳山到臺南段,可惜因利息過重,怕負擔不起加上丁日昌因病請辭回中國,建設鐵路事業因而作罷。
事實上,丁日昌不能完成臺灣建設,身體不佳固是原因,也因缺餉,加上閩浙督撫本就不合,使籌餉更加困難,甚至出現閩浙總督何璟復批評他說:「祇知有已,不知有人。」丁日昌有志不得申,唯有藉病乞休離開臺灣。