原名于作海，化名于海、高得胜、刘二伦、林得胜。铺集镇洛格庄人。出身贫苦农民家庭，10岁便下地种田。15岁时，其父于连登因交不上租息，被县衙监押，祖父母、长兄及弟弟先后冻饿而死。于得水18岁开始拜师学武术，练得一身好功夫。1931年5月，参加农民协会。1933年春，由刘振民、于绍先介绍加入中国共产党，拉起十多人的武装，秘密活动于牟平、文登、海阳一带，被当地群众誉为飞檐走壁的独胆英雄。
     “一一.四”暴动失败后，在艰苦的环境中，于得水率领仅存的30多人在昆嵛山区开展游击战，巩固和发展了红军游击队。1936年6月，中共文登县委成立，于得水任军事委员。1936年6月2日晚，经中共胶东临时特委同意，他与王亮率队袭击国民党界石联庄会，缴获长短枪20余枝，子弹2000余发。战斗中，他腰部连中两弹。后伤口恶化，他忍着剧痛，让战友用剃头刀割开伤口，取出弹头。翌年春，率20多名队员奇袭垒于盐所，缴获长短枪20多枝，子弹千余发。1937年12月24日清晨，于得水率昆嵛山红军游击队员带着30多枝短枪，参加了由中共胶东特委领导的天福山起义，任山东人民抗日救国军第三军第一大队大队长。回忆几年来为掩护自己而牺牲的众多革命群众，遂改名于得水，激励自己永远不脱离人民。1938年2月，改任第二大队长。是年3月19日，率队攻克福山县城，促使国民党福山县长陈昱反正，接收改编陈部300余人。同年7月17日，率队粉碎三军二路指挥周拥鹤叛变阴谋，改编周控制的4个大队。1938年9月18日，调任山东人民抗日游击队五支队六十三团团长，奉命到达黄县，招远边界，保卫八路军兵工厂和玲珑金矿。1939年3月，任八路军山东纵队五支队十五团团长。是年7月3日，率十五团设伏于龙（口）招（远）大郝家、大傅家之间，击毁日军汽车3辆，缴获机枪1挺，步枪40余枝，歼敌30余人。是年在五子峰一带反“扫荡”，他受徐向前命令，坚守阵地。战斗打得很激烈，徐总始终坐在阵地上。于得水横下心反复击退敌人，守住了阵地。战后徐总说：“于得水不光会打游击，也能打硬仗么!”1940年3月，调任东海指挥部副指挥。是年9月，调任山东纵队第五旅十四团团长，率部由平度返回文登，部队很快发展到2300多人，在南黄集歼灭顽固派秦毓堂部征粮队300余人，收复文登县境内的高村、张家埠、登登口、上庄（今属荣成市）等日伪据点，巩固扩大了东海抗日根据地。1941年1月8日，于得水率十四团配合胶东第五支队二团向盘踞昆嵛山的顽固派“抗八联军”发起进攻，激战3昼夜，解放昆嵛山区，歼敌2000余人，缴获轻机枪30余挺，步枪1500余支。是年10月，任东海公署专员。1942年7月，任胶东军区第一军分区副司令员。8月，兼任文西行署主任。1945年，协同刘涌指挥部队解放烟台。1945年8月任东海分军区司令员兼烟台、威海警备区司令。是年10月1日美军太平洋舰队的黄海舰队先后开到烟台和威海海面，登陆崆峒岛。 根据美军的要求，奉胶东军区司令员许世友的命令，我方派出了以烟台党政军民统一行动委员会书记、东海军分区政委兼烟台、威海警备区政委仲曦东为首席代表，以烟台市长于谷莺，东海军分区司令员兼烟台、威海警备区司令员于得水等为代表的我方代表团和美军海军司令巴贝尔中将和两栖作战部队司令罗克少将、赛特尔少将进行了争锋相对的谈判，我方最终取得了谈判胜利。这就是著名的“烟台谈判”。 是年10月29日，指挥东海军分区独立团和特务营1200余人，收复崆峒岛。1946年1月，升任胶东军区第一分区司令员。1949年4月，奉命率部渡江南下剿匪，任浙江军区第六军分区司令员。
     1950年，于得水任浙江省军区后勤部副部长兼军区建筑委员会主任。1961年8月，转业到地方，任安徽省民政厅副厅长、安徽省第三届政协常务委员。“文化大革命”开始，他遭林彪、“四人帮”反革命集团的迫害入狱，于1967年2月16日含冤惨死狱中。党中央和周总理对此极为关注，指示追查此案。1979年2月19日，中共安徽省委在合肥举行追悼会，给于得水彻底平反昭雪，恢复名誉。
     于得水是胶东人民心目中的传奇式英雄。在土地革命战争和创建巩固胶东革命根据地的斗争中，出生入死，英勇善战，7次负重伤，13次受上级嘉奖，立下丰功伟绩。在社会主义建设时期，保持艰苦奋斗作风，密切联系群众，又立新功。1959～1961年，奉党组织指示，写下17万字的《革命回忆录》。