雖說乃木希典的清廉是日本聞名的,尤其他一上台,就以「腐敗的大和魂,將會挑起臺灣人的利慾心」
嚴格要求部屬,甚至埋怨來台官員薪水過高,結果引來反彈(二三○ 280頁)。
諷刺的是,就在他決心改革時,當時臺灣卻出現一位司法英雄,那就是明治 29年(1896)就任臺灣高等法院的高野孟矩院長,高野院長是個正直又不苟情面的人。他在台只要日本官員涉案,甚至只是拿人一瓶清酒,他就會深究到底(七十 135頁)。
由於他雷厲風行,舉發日本人罪行及日人在台造成的冤獄,造成日本朝野震動。
也使臺灣日本官員人心惶惶,總督府民政長官水野遵,也因此被免職。
但最重要的是他更追究日本兵在台的犯罪行為,並揭發假借鎮壓實行殺戮的醜聞。
尤其揭發「雲林事件」的濫殺,更是轟動日本,使臺灣總督府成為在野箭靶。
以板垣退助、田口卯吉為首的在野黨及媒體,開始圍剿日本中央。
但因總督府官僚過於腐敗,高野孟矩舉發的案例過多,加上曾任日本國債局長,新上任的民政長官曾根靜夫,因日本政府盼望借其長才,使困難重重的臺灣財務得以重建,但他卻對外發言,若高野孟矩在台一天,他就拒絕上任。
不得已日本政府只好在明治 30年(1897)6月,甘冒「違憲」惡名,將高野孟矩免職。
由於高野下台乃係勇於揭發貪污,因此使臺灣法院,包括台北法院院長山田藤三郎等多位法官相繼辭職,成為日本司法醜聞。
但總督府也因官僚腐敗,來臺 1年 4個多月的乃木希典,最後也被逼得離職,由當初保薦他出任總督的陸軍次長兒玉源太郎,不得不接續他為第4任總督。
縱觀乃木希典在台,最被讓人樂道的事蹟,乃是發現臺灣最高峰,明治 29年(1896)9月1日發現「玉山」,經過實際測量後,發現其高度為 3997公尺,為全台第一高峰,並由日本天皇命名為「新高山」。