戚衮字公文，吴郡盐官人。祖父戚显，齐给事中。父戚霸，梁临贺王府中兵参军。
戚衮少时聪慧，到京师游学，受《三礼》于国子助教刘文绍，不出一两年，已大致通晓其大义。十九岁时，梁武帝下敕策考《孔子正言》及《周礼》、《礼记》义，戚衮之对答入选为优等。于是授职为扬州祭酒从事史。
到国子博士宋怀方处质询《仪礼》义，怀方是北方人，从魏国随身携来《仪礼》、《礼记》疏，秘藏而舍不得传人，待到快死时，跟家人说：“我死后，戚生如果前来，便将《仪礼》、《礼记》义本交给他，如果他不来，就随尸入葬。”他受儒者之推重赞许一至于此。不久兼太常博士。
梁简文帝为太子时召戚衮与相谈论。又曾设宴聚集玄言及儒学之士，先命以道义之学互相质疑问难，然后让中庶子徐詀宣布要义，不时纵横谈吐。徐詀谈起来口若悬河，难以答对，众人为其气势所压，尽皆语无伦次。戚衮当时说《朝聘》义，徐詀与他往复作答，戚衮神采自若，对答如流，简文帝大为叹赏。不久除为员外散骑侍郎，又迁员外散骑常侍。敬帝继位，出任为江州长史，又随沈泰镇守南豫州。沈泰奔齐时，逼迫戚衮同行，后来戚衮自邺下逃回。又随程文季北伐。吕梁兵败，戚衮身陷于周，过了很久才得以返国。又兼国子助教，授职为中卫始兴王府录事参军。太建十三年(581)去世，时年六十三岁。
戚衮在梁代时撰有《三礼义记》，战乱时亡失，《礼记义》四十卷行于世。