羊侃，字祖忻，是泰山梁父人。父亲为羊祉，《北史》中有传。羊侃从小长得很魁伟，身高七尺六寸，特别喜爱文史。不到二十岁他就跟随父亲在梁州立有战功，初次出任尚书郎，以气力而闻名。魏帝曾经对他说：“郎官们都说你是老虎，莫非是披着虎皮的羊吗？试装一次老虎的样子出来。”羊侃便伏在地上，用手挖掘殿上的硬地，直挖到一指多深。魏帝很赞赏他的壮勇，赐给他珍珠装饰的宝剑。魏孝明帝正光年间(520～525)，秦州羌人莫折念生占据秦州反叛，并派他的弟弟莫折天生攻陷了岐州，又进犯雍州。羊侃作为偏将，隶属萧宝寅前去讨伐，他射死了莫折天生，天生的部众溃败。由于战功，羊侃被封为征东大将军、东道行台，领泰山太守，晋爵为钜平侯。
早先，羊侃的父亲羊祉一直要叫羊侃回南方去，到这时羊侃准备带着河、济一带地区归附南方，以实现先人的意愿。他的堂哥兖州刺史羊敦暗中知道了，便以所占州城抗拒羊侃，羊侃率领精兵三万袭击兖州，未能攻克，就修建十多座城垒来防守。梁朝对羊侃的赏赐和授职和元法僧完全相同。魏帝知道后，让授给羊侃骠骑大将军、司徒、泰山郡公，长久担任兖州刺史。羊侃斩了魏帝派来的使者。魏人大惊，便命令仆射于晖带领十万军队和高欢、尔朱陽都等人相继到达，羊侃军营中箭已射完，南军又没有到达，羊侃便在夜间突围而走。走了一天一夜，才走出魏国地界。到达渣口时，羊侃的部众还有一万多人，马二千匹。当准备进南方时，士卒们整夜唱着悲伤的歌曲。羊侃便拜谢了他们之后说：“你们都怀念故土，请任意选择离开或留下。”士卒们都拜辞他以后才离去。
羊侃在大通三年(529)到了建邺，被任命为徐州刺史，他的哥哥羊默和三个弟弟羊忱、羊给、羊元都被任命为刺史。羊侃被封为高昌县侯，累迁任太子左卫率、侍中。皇帝驾幸乐游苑，羊侃参与这次宴会。这时，少府送上新造成的两刃槊，长二丈四尺，围一尺三寸。梁武帝便赐给羊侃河南国出产的紫骝马，让他骑上一试。羊侃执槊上马以后，左右进击刺杀，极尽其妙，观看的人都爬满树上。梁武帝说：“这棵树肯定因为侍中而断了。”过了一会儿，这棵树果然折断了，于是就将这把槊称为“折树槊”。北人前来归降的人中，只有羊侃是衣冠士族的后代，梁武帝对他的宠爱超过了其他人，他对羊侃说：“我年轻时用槊，模样很像你，如今已失去旧模样了，便觉得不奇特了。”皇帝又写了《武宴诗》三十韵给羊侃看，羊侃立即在席上应诏。皇帝看后说：“我只听说仁者有勇，如今见勇者有仁，可说是邹、鲁之地的遗风，所以英贤人物不绝。”当天传旨让他进入宫中值日，羊侃上奏说卫士使用的武器不能用。皇上大怒，因此而坐罪的不止一人。当侯景叛乱时，果然由于器仗粗劣而误事。
后来羊侃迁任都官尚书，当时尚书令何敬容主持政事，羊侃和他同在一省，却从未去交游拜访。左卫兰钦和羊侃一起在宫中侍宴，说话略有争执，羊侃便在座上折辱他说：“小子！你用铜鼓买了朱异当父亲，韦粲当长兄，怎么敢讲这种不适宜的话！”朱异当时也在酒宴上。后来参加华林园法会，兰钦到尚书省向羊侃谢罪。王铨对兰钦说：“你能够向廉颇公屈膝谢罪，更见出你的大美；但是羊公心中还未释然，能不能再拜谢一次？”兰钦听从了他。宦官张僧胤曾经去问候羊侃，羊侃说：“我的床不是Yan人所能坐的。”竟不肯让他走上前去。当时人议论都赞美羊侃忠贞正直。
太清元年(547)，羊侃任侍中，当时正准备大举北伐，朝廷任命羊侃为冠军将军，监修寒山堰事宜。寒山堰修成之后，羊侃劝元帅贞陽侯萧渊明用水攻彭城，不被采纳。后来魏军增援大批来到，羊侃又多次建议乘魏军远来尚未安定，可立即出击，第二天早晨又劝他出战，但均不被听从。羊侃便率领他的部队驻扎在寒山堰上。当梁军失败时，羊侃所率领的部队结成阵营徐徐而回。
二年，羊侃又任都官尚书。侯景反叛，攻陷历陽后，梁武帝向羊侃询问讨伐侯景的计谋。羊侃请求派二千人紧急占领采石，令邵陵王攻取寿春，使侯景前进不得，退则失去巢穴，乌合之众，自然就会土崩瓦解。但在商议时许多人认为侯景不敢立即进犯都城，因而羊侃的建议便被搁置下来。朝廷派王质前去。羊侃说：“现在肯定失败了。”朝廷于是让羊侃率领一千多骑兵镇守在望国门。侯景到达新林时，朝廷又派人追回羊侃入朝作为副职协助宣城王都督城内诸军事。
当时因为侯景突然来到，百姓们争先恐后地入城，官民双方都十分混乱，不再有秩序。羊侃便划分区域进行防御，都由皇室在其间参加防卫事宜。当时军队争先进入武库，自己去取武器盔甲，有关方面不能制止，羊侃下令斩了几个人，这才得以平静下来。这时梁朝已建立了四十七年，境内平安无事，公卿们各安其位，连乡间的士大夫们也都没有见到兵器甲仗。贼兵突然来到，官府和民众都十分震惊。当时有作战经验的老将都没有了，后起的年轻将领都在外镇守，城里只有羊侃和柳津、韦黯。柳津年老而且有病，韦黯懦弱而无谋略，军队的指挥，全由羊侃决定。羊侃胆量气力都壮盛，简文帝十分依赖他。
当贼寇进逼都城时，民众都十分恐惧。羊侃宣称得到外面射进来的书信，说是“邵陵王、西昌侯军队已近都城”，众人心情才稍为安定。贼寇进攻东掖门，放火焚烧，火势很旺。羊侃用水浇灭火焰，并射死了几个人，贼寇才后退。朝廷加封他为侍中、军师将军。又有诏书送来黄金五千两、白银一万两、绢一万匹用来赏赐战士们。羊侃全都推辞不肯接受，羊侃自己的部众一千多人他都自己取出财物来赏赐他们。
敌人又制造了尖顶木驴来攻城，箭和石块都没有办法制止。羊侃便制作了雉尾炬，安上铁箭头，用油浇灌后，扔到木驴上，一会儿，木驴全被烧光。敌人又建起东西两座土山，紧靠台城，城中人十分惊慌。羊侃又派人挖地道，一直暗通到土山底下，使土山建造不成。敌军又制造登城楼车，高达十多丈，准备从车上往城中射箭。羊侃说：“楼车太高而壕沟虚软，来时必然倾倒，我们可以躺在这里观看。”当登楼车一动起来，果然就倒掉了，众人都十分佩服他的先见之明。
敌军因连续进攻不能得胜，便修建起长围围城。朱异、张绾商议出击。皇帝询问羊侃，羊侃说：“不行，敌人多日攻城，没能攻下，所以修建起长围，是想要招引城内人出去投降的。如今出击，假如出动人数过少，不能击败敌人；如果出动得多的话，一旦交战失利，门过于狭窄而桥又太小，必定大受挫伤。”皇帝不听，便派一千多人出战。还未交战，这些人就望风退走，果然因为争先恐后地挤桥而落入水中，死掉大半人。
早先，羊侃的长子羊族鸟已被侯景抓去，侯景将他带到城下给羊侃看。羊侃说：“我全宗族人以死来报答皇上，仍恨不足，又怎么会舍不得这一个儿子。请早些杀了他。”过了几天，侯景又将羊族鸟带来，羊侃便对儿子说：“我以为你久已死去，怎么还活着？我以身报国，誓死于战场，最终也不会因为你而影响我的进退。”于是他拉开弓射箭。敌人因为羊侃忠义过人，也没有加害于羊族鸟。
侯景又派仪同傅士哲喊羊侃出来说话，傅士哲对羊侃说：“侯王从远方前来问候皇上，为什么闭门拦阻不让他马上进去？尚书是国家的大臣，应当启奏朝廷。”羊侃说：“侯将军出奔之后，归附国家，以重兵镇守一方，朝廷给予很大信任和期望，又有什么苦恼，忽然举兵前来，岂有为人臣子而这样做事？我不能听你的虚妄说辞，开门揖盗。”傅士哲说：“我在北方的时候，久闻您谦和的品格，希望您能够脱一次戎服，让我得以和您相见。”羊侃于是为他脱下甲胄，傅士哲瞻望了很久才离去。他被北人敬仰到这种程度。
后来下大雨，城内的土山崩塌，敌人趁此机会即将攻入城内，战士们苦战许久仍难以阻挡。羊侃便让人多扔火把，烧成火城断绝敌军前进的道路，随后在城内筑城，敌军没法进入。不久，羊侃因病而死于城内，赠为侍中、护军将军。他的儿子羊球继承了他。
羊侃从小勇猛强壮，气力无人可比。他所用的弓拉到二十石重，骑在马上用的是六石的强弓。他曾经在兖州的尧庙塌壁上垂直上行五寻多高，横走七脚印宽。泗河桥有几个石人，每个高八尺，大十围。羊侃将它们提起来互相碰击，全都撞得粉碎。他性情豪放，很精于音律，曾经自己制作了《采莲》、《棹歌》两支曲子，很是新鲜别致。姬妾排列成行侍候，极尽奢侈。有位弹筝的人陆太喜戴着鹿角爪，长七寸。一位舞女名叫张净琬，腰围只有一尺六寸，当时人都说她能作掌上舞。又有一位名叫孙荆玉的能够反身弓腰贴到地上，衔起席上的玉簪。皇帝送给他歌女王娥儿，太子也送他一位歌女叫屈偶之，两人都能唱出极为奇妙的歌曲，当时没有人能够相比。初往衡州时，用两只船搭成三间通梁的水斋，用珠玉进行装饰，再加以织成花纹的锦帛，大举张设帷幕屏幛，陈列女乐。他乘潮起时解开缆绳，临水设下酒宴，塘沿的水旁，挤满了观看的人。大同年间(535～546)，魏国派来的使者陽斐在北边时曾经和羊侃是同学，皇帝下诏让羊侃接待陽裴并一同赴宴。当时有宾客三百多人，食器都是金玉等各种宝物制成的，演奏有三部女乐。到天黑时，侍从女婢一百多人都手执金花烛。羊侃不喝酒而喜欢游玩，成天设宴招待，和陽裴同醉同醒。
羊侃性情宽厚，有器度。南归之后，他曾在涟口设酒宴请客人，有位客人名叫张孺才的，醉酒以后船上失火，牵连烧掉七十多艘船，烧坏的金帛不计其数。羊侃知道以后毫不在意，让客人不停地继续饮酒。张孺才自觉羞愧和恐惧而自行逃走，羊侃派人去安慰他并让他回来，仍然像以前那样对待他。
羊侃的第三个儿子羊昆鸟，字子鹏。他随羊侃在台城内，当城陷没时，逃到陽平。侯景将羊昆鸟的妹妹当小老婆。让羊昆鸟回京，并给他十分丰厚的待遇，任命他为库真都督。当侯景失败之后，羊昆鸟暗地准备杀掉他，便跟随他向东逃跑。侯景在松江战败后，只剩下三条船，便下海准备逃往蒙山。正值侯景白天休息时，羊昆鸟对船工说：“这里哪有什么蒙山，你只管听我安排。”便让船只直开向京口。当船行至胡豆洲时，侯景觉察了，大惊。问岸上人，说是“郭元建仍在广陵”。侯景大喜，准备前去依靠他。羊昆鸟拔刀命令船工将船驶向京口。羊昆鸟和王元礼、谢答仁的弟弟谢葳蕤，都是侯景最亲近的人，这三个人对侯景说：“我们为大王作战，百战百胜，自以为天下无敌，而今竟至如此，岂非天意吗？如今向大王求取头颅以谋富贵。”侯景准备跳水逃跑，羊昆鸟拔刀砍去。侯景便转身跑入船中，用小刀挖船。羊昆鸟到船中用槊刺死了他。侯景的仆射索超世坐在另一艘船上，谢葳蕤假传侯景的命令将他召来，斩于京口。
梁元帝任命羊昆鸟为青州刺史，封爵昌国县侯，又兼领东陽太守。攻打陆纳时，加封散骑常侍，任西晋州刺史。羊昆鸟在东关打败了郭元建，并改任东晋州刺史。承圣三年(554)，西魏围攻江陵，羊昆鸟赶来救援，未能赶上。他跟从王僧忄音在岭表征讨萧勃，听说王僧辩败亡，便回兵，被侯王真击败而遇害，年纪只有二十八岁。