1940年是抗战比较艰苦的时期，刚刚被降职的杨上堃，受到了晋察冀军区一分区侦察科长袁彪的蛊惑，带着带着二十几个人偷偷离开了八路军的队伍，企图投靠日伪军。
当这些人被抓回来后，就准备枪决。此时，毛主席却说：他是属于内部矛盾，应该留一条活路给他。
1914年，杨上堃出生于江西兴国县江背镇华坪村一个寒苦家庭，姊妹8人，全靠父亲1人租种地主家的土地抚养长大。
因为贫困，杨上堃的3个姐姐小小年纪便做了童养媳，几个哥哥，也都在给地主家打工，待杨上堃年纪稍大，也走上了这条路子。
劳累一年，杨上堃一家连肚子也填不饱，而地主却能坐享其成，这让杨上堃愤怒不已。
16岁的杨上堃就积极参加，随后当上少先队长，经常和武装工作队在一起，帮助贴标语、送信、站岗、放哨，和群众一起打土豪、分田地。随后少先队整体参加正规红军，编入红一军团12师35团，杨上堃担任团部通讯员兼青年干事。
土地革命战争时期，历任红军通信员、班长、排长、连长。参加了中央苏区第二至第五次反“围剿”战斗。
红军长征时，杨上堃担任红一军团二师四团一营二连连长，所在部队是红军长征的前卫，他率领的连是团的前卫，经长途奔袭，同敌人短兵相接，奋力拼杀，突破敌人沿江阵地，抢渡湘江，为掩护红军大部队渡湘江开辟了通道。
乌江的凶险程度绝不低于强渡大渡河，而在强渡乌江的战役中，杨上堃当记首功。当时贵州王王家烈在乌江天险设卡，力图阻止红军渡过乌江，等红军身后薛岳的大军赶到，就可以包饺子吃掉红军。
红军来到岸边时，对岸的火力相当猛烈，组织的一个连的敢死队全部葬身于乌江之中，身为指挥的杨成武思来想去，将这个任务交给了杨上堃。杨上堃亲自挑选精锐，用三个竹筏子渡江，乌江风大浪急，反而掩护了杨上堃等人，最后杨上堃用机枪和手榴弹打开了一个登陆点，才让红军顺利的渡过了乌江。上级给予署名表彰和嘉奖，杨上堃获得“勇士”称号受嘉奖。
随后，杨上堃带领全连战士，在抢渡大渡河，夺取泸定桥，攻占天险腊子口，攻占娄山关等战斗中，一直都是迂回奇袭大胜，甚至创造了一个连猛追敌人3个团的奇迹，他长征途中的关键时刻、几个起主要作用的战斗中，为红军长征队伍开辟前进道路立下了显赫战功，红军领导对他的名字都记忆深刻。
杨上堃便是其中的主要立功者，红军到了陕北后，杨上堃任一连连长。
抗战全面爆发后，杨上堃任八路军115师独立团一营营长，他率部参加了平型关战役，立下大功，独立团受命前往晋察冀三省边界开辟新的根据地，由此独立团也变成了独立师。
1939年3月，杨上堃被调任晋察冀军区一分区一团参谋长。不久，又被调任为晋察冀一分区一支队参谋长。对这两次的人事调动，杨上堃不是很理解，因为这个职务对他来说，那是属于降职。
一分区侦查科科长袁彪此时对革命也有想法，他与杨上堃一拍即合，两人就带着20多个人，想要前往徐水县闹出点名堂给上级看，杨成武的回忆录里记载着：四五天后，支队参谋长（杨上堃），罗昭辉，和侦察连长被保定附近一个情报站的同志及当地民兵给五花大绑回来了，袁彪当着杨成武的面大喊说是有人要投敌。
此事惊动了八路军朱老总、彭老总，他们大发雷霆高声叫骂：“一定要枪毙这些脱离部队的，身为革命军人擅自离队，再不制止，今后部队就没法带了。”
毛主席沉默许久后，说道：“从严肃军纪出发，你们说得对。但是在长征路上，杨上堃的功劳，你们也清楚，可以说他是红军的恩人。事件也调查清楚了，这是内部矛盾。能不能给杨上堃留条活路？”
经过慎重讨论后决定，此次离队事件中除了杨上堃之外，剩余20人全部枪毙，而杨上堃脾气再火爆也知道问题的严重性，从那之后他去了抗大高级干部班，并在此反省了5年，直到毕业又重新回到了一线部队。
1945年抗日胜利，杨上堃才恢复党籍，奔赴东北。虽到了东北，但杨上堃担任的却是工委委员兼参谋长，直到1946年3月底，才桦甸县保安团长一职，负责剿匪任务。
参与保卫临江战役，战斗中，杨上堃率部在桦甸县桦树林子对守敌发起进攻，激战9个小时，毙敌160多人，俘敌200余人。
此战过后，桦甸县保安团被收编为吉南军分区72团，杨上堃担任团长一职，在1945年的夏季攻势中，杨上堃负责阻击撤逃的敌军700余人，激战5小时后，毙伤俘敌上百人，并生俘桦甸县公安局局长。
后又参加了四平保卫战、解放长春等战役，屡立战功。
因为历史问题，杨上堃在1955年只是一个上校。按照他在长征时期的功绩，杨上堃很有可能会是一位开国将军。但他的职务倒是不低，做过军分区司令和军区参谋长，都远远超出了上校所对应的职务，这也算是对杨上堃的工作能力的肯定吧。
1965年，杨上堃被调任江西省军区参谋长。
1967年，毛主席去南昌视察才听说杨上堃也被打倒，当即作出指示：“他的问题审查了这么多轮，不是早就查清楚了吗，不能反反复复的推翻从前的认定，查来查去有什么意思？”
就这样，杨上堃被解放出来，毛主席很少因为私情为他人说话，但是杨上堃却被主席两次搭救。
1970年，杨上堃任福建生产建设兵团副司令员。为了发展林业，他跋山涉水，努力工作，实行营林工作制，为绿化祖国作出了贡献。
1975年，杨上堃被调回江西省军区任副司令员。
1982年杨上堃按正军职离休，1984年5月21日于南昌逝世，终年71岁。
