1914年,叶运高出生在一个贫苦农家,自小就养成了勤劳、勇敢、坚强的性格。红军一开到兴国,他就参加了儿童团,站岗、放哨、支前,积极投入革命工作。
1930年,16岁的叶运高报名参加了中国工农红军。
1931年,加入中国共产主义青年团。又于1932年转入中国共产党。历任红三军团连指导员、第一方面军保卫局训练队队长。参加了中央苏区反“围剿”和长征。
1937年后,任陕甘宁边区绥德分区公安局局长、冀中行署公安局副局长、晋察冀军区政治部保卫部部长。
1942年底,在陕甘宁边区保安处三科任科长时,参加了审干运动。
1943年“抢救运动”之后,叶运高又具体负责甄别、审查工作。他遵照毛主席的九条方针,严格执行肃反工作路线,发扬党的实事求是精神,同康生的肃反扩大化作坚决斗争,平反了几个地下省委的所谓“红旗党”问题,纠正了一批重大特务假案。到1945年底,把关在保安处的四五百名人员的案子基本审查完毕,保护了一批党的优秀干部。轰动延安的王遵级“日本川岛芳子式的女间谍”案便是由叶运高负责甄别平反的。
1948年4月中旬,毛泽东来到石家庄西北的阜平县城南庄。朱德、刘少奇、周恩来等中央领导同志以及中央机关和华北军区司令部也驻在平山县西柏坡和阜平县等地。这里成了领导全国解放战争的中心。当时任晋察冀军区政治部保卫部部长的叶运高担负着保卫党中央和毛泽东的重任。
建国后,任华北军区保卫部部长。
1953年,任中国人民志愿军政治部保卫部部长,获朝鲜二级国旗勋章。回国后,任解放军总政治部保卫部副部长。
1955年,被授予少将军衔。获二级八一勋章、一级解放勋章。
1960年,毕业于高等军事学院基本系。后任总参谋部政治部主任、通信部政委。