作为古代丧葬礼仪重要环节的“挽歌”，到底起源于何时？大致有两种不同的说法。
其一，起源于田横之死。西晋崔豹《古今注》记之甚详：“《薤露》、《蒿里》，并丧歌也，出田横门人。横自杀，门人伤之，为之悲歌。言人命如薤（xiè）上之露，易晞灭也；亦谓人死魂魄归乎蒿里。故有二章，一章曰：‘薤上朝露何易晞，露晞明朝还复滋，人死一去何时归。’其二曰：‘蒿里谁家地？聚敛魂魄无贤愚，鬼伯一何相催促，人命不得少踟蹰。’至孝武时，李延年乃分为二曲，《薤露》送王公贵人，《蒿里》送士大夫庶人，使挽柩者歌之，世呼为挽歌。”
田横是齐国贵族，刘邦统一天下，自立为王的田横不肯称臣，率五百门客东入海，驻扎在海中的一座小岛上。刘邦命田横入朝，否则即派大军诛灭。田横没办法，只好带了两个门客前往洛阳，在离洛阳三十里一个叫“尸乡”的不祥驿站拔剑自杀。听到这个消息，海岛上的五百名门客尽皆自杀以殉。
其二，起源于汉武帝时期。《晋书·礼志》：“新礼以为挽歌出于汉武帝役人之劳歌，声哀切，遂以为送终之礼。”
这两种说法都不对，因为挽歌早在春秋时期就已经产生了。《诗经·四月》中吟咏道：“君子作歌，惟以告哀。”就差直说是“哀歌”了。据《左传·哀公十一年》载，鲁哀公会吴伐齐，其将公孙夏“命其徒歌《虞殡》”。杜预解释说：“《虞殡》，送葬歌曲，示必死。”孔颖达则说：“歌者，乐也；丧者，哀也。送葬得有歌者，盖挽引之人为歌声以助哀，今之挽歌是也。旧说挽歌，汉初田横之臣为之，据此，挽歌之有久矣。”
《庄子》逸文有云：“绋讴所生，必于斥苦。”司马彪解释说：“绋，引柩索也。讴，挽歌。斥，疏缓也。苦，用力也。引绋所以有讴歌者，为人有用力不齐，故促急之也。”绋（fú）是下葬时引柩入穴的绳索，周代礼仪规定：“助葬必执绋。”《说文解字》：“輓，引之也。”所以挽歌必须执绋而歌。按照庄子和司马彪的说法，之所以执绋讴歌，是因为扶棺的众人或舒缓或用力，因此要共歌以使节奏一致。这是挽歌之所以产生最具说服力的解释。
《晋书·礼志》称“汉魏故事，大丧及大臣之丧，执绋者挽歌”，可见至迟到汉魏时期，挽歌已经成为丧葬时必备的礼仪之一了。唱挽歌的歌手必须从贵族子弟中选拔，称作“挽郎”或“挽僮”。这些少年还必须是“一时之秀彦”，长相、名声、才情俱佳。因此，成为挽郎是一件非常值得夸耀的事情。
今天的挽歌早已失去了古意，徒具形式罢了。