丘逢甲内渡大陆后数年间，于潮、嘉地区致力于创办新学，成绩卓著。1906年夏，他被两广总督岑春煊聘为两广学务公所议绅和惠、潮、嘉视学员，以及广府中学堂、商业职业学校的监督。从此他在广州度过了最后的峥嵘岁月。同年11月6日，广东总教育会成立，德高望重的丘逢甲被公举为该会的正会长。
广府中学是当时广州最古老的一间公立中学，校址在小北司后街（今越华路）越华书院的故址。丘逢甲上任后，聘请同盟会员丘冬友（蕉岭人）、王狮贤（梅县人）、林鲁传（平远人）等革命党人为监学。该校在丘逢甲监督期间，“管教整肃严明，学部徐视学评为广东第一”。
1908年，丘逢甲又受聘为两广学务公所议绅。
1909年，广州两广方言学堂监督隗文云无理撤换教员引起学潮，后被撤职。但当局仍“拟将各班班长及代表革除或记过，以儆效尤”。新任监督丘逢甲却坚持认为“监督既撤职，则学生不应惩办”。结果，学生获胜，学校得以照常上课。
丘逢甲重视学校风气的培养，聘请朱执信任学监和负责讲授西洋史课程，还聘请同盟会员邹鲁担任国际公法、经济学和财政学的讲授工作。学校面貌焕然一新。
丘逢甲以强国为目的，先后共“劝办学校百数”。他不愧为中国近代杰出的爱国教育家。
清末，广东赌风之盛，可谓全国有名。不少人“好赌博，烟管赌具，几视为日用要物”。1900年，李鸿章总督两广时，适逢广州西送赌馆发生人命案，李鸿章借口革除陋规，改赌馆为官厅收饷，公开承办番摊，年赌饷达白银200万两。李鸿章去任后，陶模继任总督，他曾决心扫除这种颓风败俗，打算呈请清廷禁赌。但其奏本未上，腐败的清廷却先发制人，急电谓“此事既承饷，试办数年，万不可中途失信”云云。本想有所作为的陶模，也只好取消禁议了。
1909年10月，丘逢甲被公举为广东咨议局副议长。他上任后即雷厉风行地首倡禁赌。他引荐留日学生、同盟会会员古应芬任咨议局书记长，同盟会会员邹鲁为议事课书记，一起发动禁赌运动。据《广东省咨议局第一次会议报告书》记载：“议员陈炯明修正禁赌议草一件，经于（1909年）9月29日议计，……此案应通过。”可是，两广总督袁树勋以赌饷数额甚巨为借口，不予执行。早在1900年，丘逢甲愤然作诗斥曰：“何止诛求在市租”、“报国居然仗博徒”。1910年在咨议局为禁赌一案而召开的临时会议上，丘逢甲等仍坚持主张禁赌。但是，咨议局内竟跳出一只拦路虎。有个叫苏大阔的议员，以重金贿赂议员和官员，拉拢他们反对禁赌。开会前，谋略在胸的丘逢甲叫陈炯明提议，在表决禁赌时，议员一律要在选票上只写明可与否，且要签上名字。这个提议得到通过。结果反对禁赌的选票占了上风，赞成禁赌的议员为之义愤填膺，于是集体辞职以示抗议。这时古应芬、邹鲁奉丘逢甲之命，把登记的选票情况公诸报章。社会舆论为之哗然。同年11月20日，云集广州的“会省选民”800余人召开大会，千余听众全力支持禁赌议员的行动，异口同声地讨伐苏大阔等一伙的卑鄙行为。群众还在会后将“庇赌议员”35人的姓名公布于城门，终于迫使苏大阔和袁树勋丢官去职。
清廷当即调广西巡抚张鸣岐任两广总督。他在丘逢甲等人一再敦促下，终于在1911年3月30日下达禁赌令，并公布极其严厉的惩治条例。曾饱受赌害的广州市民纷纷庆祝巡游。从1911年至1913年间，公开聚赌活动渐告敛迹。丘逢甲禁赌之举深得民心，一时扬名于海内外。这正如民国初年国会议员江山渊所说，丘逢甲“于地方积病，尤日思所以构陷而廓清之，如禁赌一案，其最著者也”。
青年是国家未来的栋梁。丘逢甲尤其重视引导和推荐优秀青年学生加入同盟会，鼓励他们投身革命，并以“男儿要展回天策，都在千盘百转中”等革命诗句，勉励他们为振兴中华而奋斗。1909年，他特地写《春江》五言绝句赠其岭东同文学堂学生（同盟会员）姚雨平：“春水绿生波，春江批桨过。阴晴浑未定，莫便脱渔蓑。”此诗似写春日的江水，实是借景喻志之作。当时革命形势连遭挫折，丘逢甲作此勉励姚雨平不能灰心丧志。诗中把革命比作“春水绿生波”，尽管革命暂时处于劣势，却认定“阴晴浑未定”。诗末更勉励姚雨平“莫便脱渔蓑”，暗喻切莫放弃武装斗争。直到他晚年，还勉励学生李次温等人说：“依袁氏官僚，不能成革命事业，革命须汝辈自己奋起耳。”
在形势险恶时，丘逢甲还以自己在广东的声望和特殊地位，多方掩护和拯救革命学生。1911年黄花岗起义失败后，一批革命党人于深夜相继退入小北丘家祠，数十人攀墙而入。翌晨，两广总督张鸣岐闭城搜捕革命党人，惟丘家祠是丘逢甲寓所，门首高悬钦赐“工部主事”木牌，清兵不敢冒犯。又据邹鲁在《回顾录》所述，他与陈炯明参加起义的证据为清吏所获，由于丘逢甲及时通知，他们方得脱险。黄花岗起义领导者之一的姚雨平亦于事后被清巡警所拘捕，“经各同志和平远同乡会多次设法营救，派人探监，示意姚伪称为两广方言学堂学生丘某”。再经丘逢甲亲自交涉营救，始得释放。
1911年10月10日爆发了举世瞩目的武昌起义。在这席卷全国的革命风暴中，饱经忧患的丘逢甲振奋不已，“内渡十七年，无若今日之快心者”，认为“革命军从此推翻清室，建立共和，贤能在位，诚意振刷，则洗雪国耻，恢复故土，指日可计”。然而，这时粤省当局还妄图挣扎，张鸣岐筹谋纾策，遣将调兵。于是，广州形势险恶。市内不少报馆、瓷业公司相继遭查封，旅港商学会亦被搜查。丘逢甲在这关键时刻，置个人安危于度外，于9月中旬毅然挺身而出，多次在广州召开各界人士会议。这时，咨议局不少议员已纷纷逃往香港，咨议局正议长易学清托病闭户不出。作为咨议局副议长的丘逢甲当机立断，于11月8日在咨议局主持召开有张鸣岐以及满汉八旗及绅商参加的各界人民代表大会，于9日即正式宣布广东省正式脱离清廷而共和独立，并催促革命党人胡汉民速由港返穗就任都督职位。祖国南大门的广州遂得兵不血刃地宣告光复。丘逢甲在广东和平光复大业中作出了不可磨灭的贡献。
广东军政府成立后，曾力促李准、张鸣岐反正有功而又擅长于教育工作的丘逢甲被推荐为中华民国广东省军政府第一任教育部（今教育厅）部长，并与王宠惠、邓宪甫三人同被推选为粤省代表，于11月下旬赴南京参加筹建中央临时政府会议。12月29日，独立17省代表共46人，齐集南京丁家桥原江苏咨议局会场，孙中山当选为中华民国临时大总统，丘逢甲被选为临时参议院参议员，成为民国后第一名台湾省籍议员。
可是，正当“民国未固，台湾未复”之时，这位著名的爱国志士，卓有成就的诗人、教育家，由于数月来的过度劳累，于1912年1月下旬，不幸肺病复发吐血，不得已告假南归。抵厦门时，获悉福建时局未定，省议会尚未成立，即为该省出谋划策，致病益重。转赴汕头时，接广东省军政府急电，催他返省城，并告知他已被公推为粤省都督。他即表示说：“我不要做官，只愿当参议员监督政府。”俟返抵蕉岭淡定村故居时，病益重。他仍询大局安危事。当他“闻清帝退位，南北统一，则色欣然喜；闻袁（世凯）就职，孙（中山）解职，则曰：‘袁之为人，孙之意志，吾知之矣，前途未可乐观也。’”他归家仅半月，不幸于1912年2月25日晨辞世。于弥留之际，犹“遗言葬须南向，曰：‘吾不忘台湾’”。
丘逢甲辞世后，南北哀悼，台湾志士尤感悲痛。中央政府及粤政府均致吊唁，并致赙千金。在广州的台湾同胞，曾痛致挽联曰：忆当年祸水滔天，空拼九死余生，只手难支新建国；痛今日大星坠地，只剩二三遗老，北面同哭故将军。