颜伏是四川省梁山县（今重庆市梁平县）人，1911年出生，原名颜宗羲。幼读私塾，因不满家庭束缚，离家出走到成都求学，1930年考入成都民立大学。颜伏在校期间，参加学潮，被军警抓获，后由学校保释。1931年，颜伏到北平北京大学读书，1933年加入中国共产党，从事地下工作，历任北平市反帝大同盟青年部部长、北平市反帝大同盟区委书记、河北省委组织部干部组长、中共北方局组织科股长。在此期间，他三次被抓，均未暴露身份而获释。
     1936年，上级党组织决定由颜伏带70余名爱国青年从北平到太原，参加中共山西党组织利用阎锡山的名义开办的民训班和政训班，这个训练班由薄一波主持，这批人，后来成为新军的一部分基础。颜伏很有个性，认为这个训练班无法满足自己学习的要求，提出去延安学习，经组织批准，1937年5月，颜伏到延安进入抗大学习。
     1937年12月，颜伏在抗大毕业，分配到新四军，在军部任作战参谋。1940年，主动要求下部队，分配至新四军三支队司令部任作战参谋。在一次战斗中，部队被敌人冲散，颜伏挺身而出，将失散人员和电台集中起来，带领100多人成功突围。不久他患伤寒，被送回盐城新四军军部，被任命为通信科科长。
     1941年5月，颜伏再次到部队。历任新四军第6师作战科长、18旅52团、54团参谋长、16旅48团参谋长、苏浙军区作战科科长。1946年他在任48团副团长时，攻打泰兴，率一个营首先登城成功，受到6纵表彰，不久任团长。在第二次分界攻击战中，他率48团首先攻入敌阵，再次受到6纵表彰。在莱芜战役的吐丝口战斗中，48团率先破敌，为夺取战斗胜利作出了贡献。战斗中他腿部受伤，伤愈后任16师参谋长。后任18师参谋长时，参加了淮海战役攻击碾庄外围据点彭庄的战斗，6纵攻击彭庄一夜未克，有的领导提出入夜再组织攻击，颜伏力主继续攻击，不给敌人喘息，以省兵克敌。王必成同意了颜伏的意见，并增拨一个团给18师指挥，18师即攻克彭庄，颜伏战后任18师副师长。在淮海战役中，颜伏患肺病，两次昏倒在指挥所，被送到后方治病。1950年，到三野特科学校任副校长、中国人民解放军炮7师师长。
     1951年奉命入朝作战，任志愿军炮7师师长。在上甘岭战役中，担任前指炮兵司令员，统一指挥所有参战炮兵有力地打击了敌军，为上甘岭战役的胜利做出了贡献。毛泽东主席于1952年12月在分析朝鲜战局时指出：“……，我取得如此胜利，除由于官兵勇敢、工事坚固、指挥得当、供应不缺外，炮火的猛烈和射击的准确实为致胜的要素。”
     1953年颜伏回国后，先后任山东军区和济南军区炮兵司令员。1960年毕业于炮兵学院地炮系。
     1961年晋升为少将。荣获二级独立自由勋章、二级解放勋章、一级红星功勋荣誉章。荣获朝鲜二级自由独立勋章。