吴肃是四川省遂宁县人，1910年出生于城市贫民家庭。比起很多开国将帅幸运，吴肃从小有读书的机会，他学习用功，而且擅长书法。
 
    1929年，他在遂宁省立第叁师范读书期间，参加学生运动，被学校开除。1933年，吴肃加入中共，1934年，中共在四川的组织遭到严重破坏，吴肃奉命向川陕苏区转移，途中因交通线也遭破坏，断了组织关系，他过上了流浪生活。

    1934年，吴肃到了南京，从报纸上看到国民党军队正在江西围剿红军，就下决心去江西找红军。他投考了去江西的国民党部队，当了文书。该部到江西时，红军已经离开江西长征。他因醉酒打人，被国民党军开除。他在这段时间里，当过报社校对，在街头卖过字，在公司里当过司书。
抗日战争爆发后，他通过陈毅的弟弟找到陈毅，陈毅把他留在自己的支队部当作战参谋。吴肃本是一文人，因热心军事，进步较快。1939年任作战科长，1940年任作战处副处长。他协助组织指挥了黄桥战役。1941年他担任新四军1师作战科长，1942年任1师参谋处长。

    1944年，吴肃到教1旅特2团任团长，在反扫荡作战中负伤，调任苏浙公学教育长。1945年国共和谈，他参加了停战执行小组的工作。1946年，他担任华中野战军10纵参谋长，参加指挥了涟水战役。1947年，吴肃被调到华东野战军司令部工作，但他坚决要求下部队，于是去了4纵12师，担任副师长。1948年，他担任10纵参谋长，协助宋时轮参加攻打济南、淮海决战、渡江战役和攻克上海。

    1949年，陈毅将他从福州前线召回，任华东军政大学训练部长。1950年，他担任华东军区公安部队参谋长，负责保卫上海、南京的安全。

    1952年，吴肃任华东军区空军参谋长，入朝作战，任中朝空军联合司令部参谋长，协助聂凤智指挥作战。回国后，他担任中南军区、广州军区空军参谋长。1956年，进入进入军事学院空军系高级速成班学习，1958年毕业后，由陈毅点名主持编写新四军和华东野战军战史，吴肃花了六年时间编写战史。

    1963年，吴肃任空军学院副院长。1964年晋为少将。获二级独立自由勋章、一级
解放勋章。文革期间，因他复杂的履历，被定为“叛徒”，批斗3年，关押3年，
复查历史4年，1976年66岁时始得澄清冤案。