Simone1937年，抗日战争全面爆发。在中华民族面临生死存亡的紧要关头，曾泽生认为，这是一名军人报效国家、捍卫民族尊严的关键时刻。他激愤地说：“暴日侵略土地，残杀人民，处国难当头时期，抗日战争为当前第一件大事，不容畏缩与退让，毁家捐躯，亦在所不辞，岂能坐视国土被践踏，同胞被残杀。”同年9月，曾泽生被任命为第六十军一八四师一○八五团团长。10月初，随全军奔赴抗日前线。
1938年4月初，第六十军奉命增援徐州。在坚守台儿庄的战斗中，将士们以步枪、机枪打，用手榴弹炸，最后与敌人展开白刃战，工事随毁随修，第一道防线被突破，退到第二道防线继续抗击，击溃日军后又举行反攻，把失去的一线阵地再夺回来。正是滇军英勇顽强、前赴后继的浴血奋战，不仅使敌军损失惨重无法突破禹王山、台儿庄防线，而且让日军在这种坚决的抵抗面前觉得胆寒。
日本报纸曾报道：自“九一八”与华军开战以来遇到滇军猛烈冲锋，实为罕见。之后，曾泽生率部参加武汉保卫战、崇阳之战，参加了南昌会战、长沙会战。
1940年9月，日军进占越南河内、老街、谅山各地，并围绕云南南部部署兵力。为阻止日军的进犯，第六十军移防滇南河口、个旧、建水、蒙自和屏边一带。
1941年，曾泽生任第一八四师副师长，1942年升任第一八二师师长，1943年任第一八四师师长。
1945年7月起，为配合滇西远征军的反攻，曾泽生在固守阵地的同时，根据上级指示，多次派部队向越南北部的日军开展牵制性进攻，并光复了越南境内的勐烘、坝洒、沙坝等地。
8月，日本宣布无条件投降。经过八年的浴血奋战，中国人民终于迎来了抗日战争的胜利。
9月，曾泽生随卢汉率部入越南受降。 1945年11月，滇军在越南进行整编。曾泽生升任第六十军中将军长，辖一八二、一八四和暂二十一师。
1946年4月，第六十军被调往东北。
在东北，曾泽生先后担任第六十军军长、吉林守备司令、第一兵团副司令等职。埋孝蒋介石集团对滇军既想使用又不信任，第六十军到东北后，被分割使用，分散配置，3个师分散各地，不能相互照应，且不归曾泽生管。曾泽生只能指挥军直属分队和工兵营一个连，成了“空军”司令。曾泽生及许弯核稿多中下级军官对把滇军作为蒋介石嫡系部队护卫的做法，既愤恨和不满，又为第六十军的前途担忧。
5月25日，第六十军到东北不到一个月，布防于鞍山的第一八四师五五一团就被东北民主联军歼灭。5月30日第一八四师在身陷包围、援军不至的形势下，经中共长期的工作，在党和人民的召唤下，师长潘朔端率领师直属部队及五五二团在海城起义，并通电全国。第一八四师的起义“震撼了整个蒋军”，也给曾泽生以冲击。他曾率领第一八四师参加抗日战争，而这支部队却在海城起义，这使他对国民党嫡系部队那种盛气凌人和见死不救的态度非常气愤，对蒋介石阴谋在内战中消灭异己的方针感到切肤之痛；使他明白了共产党领导的军队，绝不像国民党宣传机构所说的那样不堪一击。
1946年秋天，曾泽生率第六十军进驻吉林。
1947年后，东北民主联军发动夏季攻势，第六十军接连受到打击。5月，新组建的第一八四师在梅河口被全歼；暂二十一师在撤退途中被民主联军伏击，全师剩下不到一个团的兵力。经过与民主联军的几次交手，全军实力损耗一半。惨痛的损失，如巨钟敲响，惊醒了迷梦中的曾泽生。 1948年3月，六十军粮弹殆尽，仍未见到增援，而东北人民解放军（原东北民主联军）却已兵临城下。曾泽生率部撤出吉林退往长春。
3月13日，东北人民解放军攻克战略要地四平后，即准备歼灭长春之敌，并成立了由肖劲光为司令员、肖华为政委的围城指挥部，统一指挥围城战斗。
6月，东北军区根据中央和东北局的指示，将直接打下长春的作战部署改变为以强大军事力量为后盾的军事打击、政治攻势、经济封锁三位一体的久困长围的斗争方针，变短时间内大兵团强攻为以小部分主力与独立师久困长围，在围困的同时展开政治攻势和经济斗争，使守军粮弹俱乏、人心动摇时再攻的方针。
中共中央为了做好滇军的争取工作，氏世从延安和南方局派共产党员刘浩、陈方等10多个云南籍共产党员干部到东北。朱德总司令还以滇军旧僚的身份，给滇军将领孙渡、曾泽生等人写信，以肺腑之言，要他们发扬滇军护国的光荣传统，站在人民一边。东北局和东北军区十分重视策反滇军的工作，1946年5月在冀热辽分局成立了一个滇军工作委员会；1947年3月东北局成立了两个滇军工作委员会，分别在吉北和吉南开展工作；1947年底东北军区政治部成立前方办事处，在吉林和长春之间协同解放军开展对敌政治工作，并直接与第六十军中的地下党组织联系。各主力部队、各省军区都对滇军做了大量政治工作。中央和解放军与第六十军将领有关系的高级将领，包括时任松江省政府副主席、原滇军将领张冲和刚起义的原第一八四师师长潘朔端也主动做第六十军工作。中共东北局和东北民主联军总部派刘浩以公开身份到吉林做陇耀的工作，继而影响曾泽生。第六十军中的共产党员杨重、赵国璋等人也对曾泽生等人做了不少工作。
经过解放军各层次、各种形式的工作，眼见士卒凄苦、百姓遭殃，曾泽生在经历无数的痛楚、无数的自责、无数个不眠之夜的激烈思想斗争后，在解放战争不断胜利的大势所趋下，在解放军的强大压力下，他终于认识到：“再不能这样下去了！为全长春十多万老百姓，为全军几万官兵的前途，必须走反蒋起义、向人民赎罪的路。”他毅然接受中国共产党的主张，选择了反蒋起义。曾泽生下定决心后，于9月22日至10月12日，先后7次与陇耀、白肇学密商，统一思想，进行准备。在讨论到起义后云南及眷属时，曾泽生认为：“革命是要发展到云南的，暂时受些痛苦，以待解放，而且现在蒋介石手忙脚乱，自顾不暇，从情况看，眷属说不定会遭到危险。但为了革命，也只有忍痛。何况中国目前在蒋管区的家庭，哪个又不是在水深火热中受苦呢！决定照原定计划实施，不计后方一切，等革命成功时再替受苦受害的人们去算这笔冤债。”
解放军大举进攻锦州时，曾泽生估计郑洞国及新七军的首脑们都在密切关注锦州方面局势的发展，对第六十军来说，这是一个起义的好时机。
14日，曾泽生派人携带由曾泽生、陇耀、白肇学3人联名要求同意起义的信，与解放军围城部队联系。
16日，曾泽生正式派第一八二师副师长李佐、暂编二十一师副师长任孝宗带着蒋介石命令长春守军突围的手令和郑洞国的突围计划，到解放军围城指挥部谈判起义事项。与此同时，曾泽生等人起草了第六十军起义通电，并连夜相继召集暂编二十一师、一八二师及军直营以上军官开会，进行鼓动，表明赞成起义；随后，下达了对新七军布防的命令。同时，曾泽生致信“剿总”第一兵团司令郑洞国：“为使长市军民不致无谓牺牲，长市地方不因战火而糜烂，望即反躬自省，断然起义，共襄义举，则国家幸甚，地方幸甚。”
1948年10月17日上午，曾泽生与解放军代表刘浩在长春第五四五团见面，共同商量了起义行动问题。入夜，解放军围城部队进入市区接防，曾泽生率第六十军撤出所守的长春东半部，开往九台，第六十军正式起义。
1949年1月2日，中共中央军委、中国人民解放军总部正式宣布，将起义的原六十军改编为“中国人民解放军陆军第五十军”，由曾泽生任军长。
第六十军起义，削弱了国民党军队的力量，与东北野战军第一兵团配合，迫使困守长春西半部的蒋军嫡系、东北“剿总”副总司令郑洞国的兵团总部及新七军于18日晚放下武器，向解放军投诚，使长春兵不血刃地和平解放了。第六十军的起义，开创了在解放战争中迫使整军起义，实现大城市和平解放的光辉战例。第六十军起义使蒋介石撤退长春、回兵沈阳，全力增援锦州、锦西（今葫芦岛）的计划成为梦想，长春的和平解放，使解放军迅速彻底地拔掉了蒋介石在东北腹地的一颗钉子，使解放军能适时集中全部力量进行辽西会战，从而加速了整个辽沈战役的胜利进程，进而加速解放战争在全国胜利的进程。
21日，新华社评论指出：第六十军的起义，郑洞国部的投降，这是中国战争形势已经发生了巨大变化，并将继续发生更大变化的象征。因为这一点，长春的解放不但加速了东北的全部解放，而且给所有据守大城市的国民党军队指出了一个前途。曾泽生将军深明大义，毅然起义，为长春和平解放作出了贡献，功不可没。
11月29日，曾泽生偕第六十军全体官兵发表了《告国民党军官兵书》，用自己的亲身体验向国民党广大官兵指出：“摆在全国蒋军前面的只有三条路：或是被歼，或是向人民投降，或是站在人民方面来举行光荣的起义。蒋军官兵中亦不乏有识之士，何去何从，该是时候了！”希望他们毅然站到人民方面来，求一条光明的出路。第六十军起义对云南地方部队产生了巨大影响。在中国共产党长期统战工作和长春起义的影响下，在解放大军逼近云南的形势下，国民党云南省政府主席卢汉率部发动昆明起义，从而加速了云南全境解放的进程。
