昭和元年(1926),伊澤喜多郎引發日人退官佔地事件後。臺灣土地爭議不斷,而且層級又多涉及日本高官。使得當時領導農民組合抗爭的簡吉、趙港等人,覺得有必要聯合日本國內的農民運動共同抗議。遂決定與來台協助「二林事件」官司,日本勞動農民黨的麻生久、布施辰治等人合作,並以「臺灣議會請願運動」方式,向日本帝國議會請願。簡吉,高雄縣人,台南師範學校畢業後在鳳山公學校擔任教職。因發生日本退官佔田不公義事,因而參與組織「鳳山農民組合」。同時協助「大甲農民組合」,對抗退官佔田事件,而結識當時領導「大甲農民組合」的台中縣人趙港,成為知己。二人從此獻身臺灣農民運動,成為早期臺灣農民運動的代表領袖。
可惜的是,對於剛萌芽的臺灣農民組合,剛好遇到世界潮流,不只蘇俄,大部份的歐洲,甚至日本和中國都一窩蜂走向共產主義運動。所以當弱小的臺灣農民組合,面對強權的日本退官佔田事件時。在束手無策下,認為有必要結合與共產黨有關,日本勞動農民組合來壯大聲勢。事實上,臺灣農民組合已因日本勞農黨介入,表面上似是聲勢大漲,也確能增添抗爭的實力和經驗,使得當時抗爭事件頻傳。但也因共產黨的滲透,失去原有的訴求目標,使單純的臺灣農民運動反成為階級鬥爭,不易得到社會的同情。
根據調查,臺灣農民組合直到昭和 2年(1927)止,成立不到1年半,從事的抗爭就有 420多件。在全島設立的支部就有 17個,參加會員2萬1千多人。不管如何,昭和 2年(1927) 12月 4日,臺灣農民組合第一次全島大會在台中舉行時,就有來自日本、朝鮮以及大阪等地,其中包括日本農民組合中央主委山上武雄等來賓,總計800多人在台中轟轟烈烈的展開。
就在臺灣農民運動如火如荼展開時,不料昭和 3年(1928)3月,卻發生臺灣農民組合中壢支部,與日本會社發生租金及肥料費用過高爭議。雖然中壢和桃園農民組合的剽悍全台聞名,但日本會社卻握有雙方合約,因此敗訴的農民組合卻仍逞強,致使黃石順等30多人違法被捕。受此事件影響,中壢及桃園兩支部在警察壓力下,不得不在昭和 3年(1928)8月解散。
但不死心的農民組合,仍圖東山再起,由趙港、簡吉及張道福等率領 200多位農民擁入警局抗爭。
使得農民組合的重要幹部趙港等人,又因暴力及妨害公務罪被捕。
與此同時昭和 3年(1928)12月,農民組合召開第 2次全島大會時,竟全盤接受該年 4月,在中國上海秘密成立,臺灣共產黨謝雪紅等的指導。不但接受「臺灣農村排除封建勢力」建議,且提出「擁護蘇維埃」及「支持中國工農革命運動」等違反法律問題(二一600頁)。簡吉和趙港也因加入臺灣共產黨,使得日本政府得以「不能放任明白實行共產主義之臺灣農民組合存在,而毒害農村思想。」為由(二一 600頁),開始展開大規模搜捕行動。包括譚延芳、陳德興、顏石吉、陳崑崙、劉啟光、簡吉、張行、陳海、楊春松、江賜金、蘇清江、黃信國、林新木等 13人,臺灣農民組合重要幹部,皆以違反「臺灣出版規則」被捕,甚至判刑。
使得該組織經此打擊,在無人領導下不得不解散。