1925年中共丹阳独立支部建立后,丹阳农民运动不断发展。颜辉目睹军阀混战,造成家乡人民的灾难,激起了他对黑暗统治的愤恨和对人民的无比热爱。他与共产党员夏霖、黄竟西等一起参加了农运工作。1926年下半年,颜辉任丹阳县农民协会的教师,他和战友向农民宣传反帝反封建的道理,动员农民起来支援北伐战争。农民协会的活动,引起了军阀孙传芳部和土豪劣绅的注意。他们妄想扑灭兴起的农民运动,派兵包围县农民协会,搜捕共产党人,并查封了农校。颜辉等4人被捕,农协会员40余人亦被关押。颜辉等被捕后,中共丹阳独支组织群众起来救援,并筹款买物,前往拘留所慰问。反动当局慑于群众的压力,不久被迫将颜辉等人释放。是年冬,颜辉经过实际斗争的考验,光荣地参加了中国共产党。此后,他在家乡继续从事农民运动。
1927年“四一二”反革命政变后,国民党反动派窃取了丹阳县政府的领导权,制造白色恐怖。这时党内有人消极,想耽在家吃口安逸饭;有的人准备外出,躲躲风头;颜辉和一些战友,则在独立的领导下,在原地坚持革命活动。他们决定不再打国民党左派的招牌,而以共产党的名义开展工作,与国民党右派反共、反人民的罪恶行径,展开针锋相对的斗争。这年5月,中共丹阳临时县委建立,颜辉被推为临时县委的委员。