1909年西洋大力士奥皮音口出狂言，轻藐华人为东亚病夫，陈其美、农劲荪、陈铁生等人商量邀请武林豪杰来沪与之较量，为中华民族争气。农劲荪积极推荐霍元甲，获得共商人员的一致赞同。
1910年农劲荪积极主张并参与筹建中国精武体操会（上海精武体育总会前身）。同年7月任中国精武体操会首届会长。霍公追悼会后不久，他又接受新的任务离开了上海，此后，他在倒袁斗争中，抗日战争中都出过力。
农劲荪先生是精武体育会的主要创始人之一。
其实，农劲荪是南方人，青年时曾留学日本，颇有学识，且爱好武术，喜交武林豪杰。农劲荪之父在天津北门外竹竿巷开个怀庆药栈，专做药材生意。有一次，装药材的货船从海上驶往天津，途中遭遇日本海盗，农劲荪之父身葬大海。农劲荪满含悲愤，接过父亲留下的怀庆药栈，苦心经营。农劲荪认识霍元甲后，真是一见如故，很快成为莫逆。农劲荪把霍元甲请来帮助自己经营药栈，闲暇时或切磋武艺，或谈天说地。农劲荪知识渊博，又有爱国热肠，常以激愤的话语痛斥清廷的腐败和东西方列强的贪婪无耻。霍元甲听农劲荪讲话，句句感觉新鲜，觉得这个农先生很了不起。霍元甲逐渐开阔了眼界，增长了知识，也逐渐激发起爱国之志，报国之心。霍元甲的确受农劲荪的影响很大，日后，在民族危难之时多次挺身而出，吓跑俄国大力士和英国大力士，打败日本柔道队，创办精武体育会，都与农劲荪不无关系。当然，农劲荪也一直给予霍元甲经济方面的帮助，是霍元甲的坚强后盾。
精武体育会成立不及两月，霍元甲遇害，顿使精武会陷入风雨飘摇中。精武元老之一卢炜昌君于1919年曾撰文说：“精武会于百计维持中，经无数波折……庚戌秋（1910年）会长农劲荪以会款支拙，特假新舞台开运动会筹款。”可见，霍元甲逝世后，精武体育会会长已是农劲荪。农先生在艰难困苦中不遗余力，千方百计维持，确保霍元甲创办的精武体育会能顽强地生存下去。他这样做是对武术的热爱，是对好友的忠诚，更是为了不让日本浪人毒害霍元甲后，再扼杀掉精武体育会。
霍元甲、农劲荪的心血没白费，精武体育会历尽艰辛，终于走出阴霾，突破黑暗，迎来黎明的曙光。