今人常常将“不肖”和“不孝”混用，“不肖子孙”因此也就理解为不孝顺的子孙。其实，“不肖”和不孝顺一丁点儿关系都没有。
《说文解字》：“肖，骨肉相似也。”什么叫“骨肉相似”？肉可见，骨不可见，因此“肖”这个字不仅形容外表的相似，更用以形容本质特点上的相似。许慎又说：“不似其先，故曰不肖也。”不像先辈叫“不肖”。
在为《礼记》所作的注疏中，郑玄解释说：“肖，似也，不似，言不如人。”郑玄的意思是言子不如父。子不如父，因此“不肖”引申为不成材的意思。《礼记·射义》：“孔子曰：‘射者何以射？何以听？循声而发，发而不失正鹄者，其唯贤者乎！若夫不肖之人，则彼将安能以中？’”这段话的意思是：射箭的人循着乐声而发，能够射中靶心的是贤者，不成材的人怎么能够射中呢？古人常常将“贤”与“不肖”对举，可见“不肖”就是不贤、不成材之意。正如颜师古所说：“不肖者，言无所象类，谓不材之人也。”
《庄子·外篇》中《天地》一章，有关于“不肖”的更清楚的解释。“孝子不谀其亲，忠臣不谄其君，臣子之盛也。亲之所言而然，所行而善，则世俗谓之不肖子；君之所言而然，所行而善，则世俗则谓之不肖臣。”这段话的意思是：孝子不奉承他的父母，忠臣不谄媚他的国君，这是大臣和人子中品德最高的。父母说的都认为对，做的都认为好，这就是世俗所说的不肖之子；国君说的都认为对，做的都认为好，这就是世俗所说的不肖之臣。
郭象解释说：“此直违俗而从君亲，故俗谓不肖耳。”很显然，“违俗”才叫“不肖”；按照通常的说法，顺从父母才叫孝顺，可是“亲之所言而然，所行而善”竟然被称作“不肖子”，可见“不肖子”跟不孝顺毫无关系，乃是不成材之谓。
清代学者王应奎《柳南续笔》中有“不肖子”一条，其中说：“今世人子丧中用帖，称‘不肖子’。”父母死后，儿子在居丧期间自称“不肖子”。那么这是自称不孝顺的儿子吗？王应奎紧接着质疑道：“然大约是谦光之辞。吾邑严观察韦川云：‘近世士大夫不明此意，凡中科甲及仕宦中人，皆改称不孝，非俨然自谓胜其亲乎？’按家礼，丧称哀子、哀孙，祭称孝子、孝孙，从未有称不孝者。且五刑之属三千，而罪莫大于不孝，岂可以此自居！”其义甚明，“不肖”乃是自谦之辞，绝不能跟“不孝”混用。
唐宋间诗人孙光宪所著《北梦琐言》一书中说：“不肖子弟有三变：第一变为蝗虫，谓鬻（yù，卖）庄而食也；第二变为蠹鱼，谓鬻书而食也；第三变为大虫，谓卖奴婢而食也。”这是对不成材子弟的尖锐讽刺，但是跟“不孝”同样毫无关系。