鸠摩罗什是天竺人，世代做相国。他父亲鸠摩罗炎，聪颖贤德有气节，正要继任相位时，却推辞回避而出家，向东越过葱岭。龟兹王听说过他的名声，在城郊迎接他，请求他做国师。龟兹王有个妹妹，芳年二十，聪明而有才干，各国争相求婚，都没有答应。等到见了鸠摩罗炎，就想嫁给他，龟兹王便逼着鸠摩罗炎娶了王妹为妻。不久，就怀上了罗什。鸠摩罗什的母亲聪慧超凡，等罗什长到七岁时，就同罗什一起出家了。
鸠摩罗什跟着师傅学经，日诵千偈，每偈有三十二字，总共有三万二千字，每句句义都能无师自通。十二岁，他母亲带他到沙勒国，国王非常器重他，于是便在那里停留了一年。他博览文学、哲学、医学、技术、伦理等五明著论以及陰陽算术，还可以精妙地预言吉凶，灵验如同符契一般。为人性情直率豁达，不拘小节，与他一起修行的人都很怀疑他。可是鸠摩罗什自得于心，毫不介意，专门将大乘化经钻研透彻，其他学者纷纷拜他为师。二十岁时，龟兹国王迎他回国，广泛地讲论各种经典，四方学士没有人能同他抗衡。
不久，鸠摩罗什的母亲辞别龟兹国王，前往天竺，留下鸠摩罗什，对他说：“此教高深莫测，不可思议。要将它传遍东土，就全仗你的努力了。但成功对你无利，你当如何？”罗什说：“我一定要使大乘佛法流遍东土，虽苦无憾。”他母亲到天竺后，修道而成，进登第三果。西域各国都为罗什的神俊而倾倒，每到讲说佛法时，各位王侯都长跪在罗什座侧，让罗什从他们身上踏过而登上讲台。
苻坚听说罗什的事迹后，暗里有迎接罗什的想法。碰巧有太史上奏说：“有颗明星在外国分野出现，当有大智之士来辅佐中国。”苻坚说：“我听说西域有个鸠摩罗什，他莫非就是这个大智之人吧？”便派骁骑将军吕光等率兵七万，向西讨伐龟兹，并嘱咐吕光说：“若得到罗什，立即用快马送回来。”吕光大军未到，罗什对龟兹王白纯说：“国运衰败，当有劲敌从日边而来，应该恭敬欢迎，不要触其锋芒。”白纯不听，出兵抵抗，被吕光打败，并得到了罗什。吕光见罗什年岁轻轻，便拿他当凡人戏弄，强迫他娶龟兹王的女儿为妻，罗什拒不接受，言辞十分恳切。吕光说：“道士的节操不超过先父，为什么这等执意地推辞？”于是，便拿烈酒给他喝，酒后把他同龟兹王的女儿同关一室。罗什被逼无奈，便成了亲。吕光撤军，中途在山下驻军休息，将士们已经安歇了，罗什说：“在这里必将狼狈不堪，应该将大军转移到山陇上。”吕光没有采纳。半夜里，果然天降大雨，洪水暴起，水深数丈，军士死亡数千人。从此，吕光内心认定罗什是个奇人。
吕光想留在西国为王，罗什对他说：“这是凶险死亡之地，不应久留，中途自有福地可居。”吕光回到凉州，听说苻坚已被姚苌杀害，于是便在河东自立为王。时值姑臧之地刮起大风，罗什说：“刮不祥之风当有奸贼叛逆，可这叛逆不烦征讨，便能自行平息。”果真有叛逆发生，但时过不久，便各个破灭了。
沮渠蒙逊起先推举建康太守段业为主公，吕光派儿子吕纂率领大军去征讨。时人认定段业等人属乌合之众，吕纂威名远扬，此去势必克敌制胜。吕光去走访罗什，罗什回答说：“此一去未必胜利。”不久便传来吕纂败于合黎的消息。不久郭..又起兵反叛，吕纂抛却大军，轻装逃回，又被郭..打败。仅免于一死。
中书监张资病了，吕光遍求名医救治。有个叫罗叉的外国道人，说自己能治好张资的病。吕光很高兴，赏赐了许多财物。罗什知道罗叉是诈骗，告诉张资说：“罗叉对病人无所补益，只是徒费金钱罢了。寿命虽然幽隐难测，但还是可以用一些办法测试的。”便用五色丝作绳结，点燃烧成灰末，投进水中，灰若出水后还成绳，病便不可痊愈。不一会儿，灰聚在一块浮出，重新成绳。罗叉治疗果然无效，不几日张资便死了。
过了不久，吕光死了，吕纂继位。有头猪生下一头小猪，一个身子上长着三颗头。又有一条龙从东厢井中出来，在朝殿前盘卧，等到天亮时又不见了。吕纂认为是吉兆，把这座殿称为龙翔殿。不久又有一条黑龙从当陽九宫门中升起，吕纂又改九宫门为龙兴门。罗什说：“近些日子潜龙出游，妖猪现异。龙是陰美，出没有一定时间，现在屡次出现，实则灾兆，一定会有下人陰谋篡位。应该克己修德，来报答上天的警诫。”吕纂不听，后来果然被吕超杀害。
罗什在凉州多年，但吕光父子都不弘扬佛道，所以他只能怀抱佛教教义，无所宣扬。姚兴派姚硕德西伐，打败吕隆，迎接罗什，以国师之礼相待，并派人进入西明阁和逍遥阁，翻译各种佛学经典。这些经典罗什大多已经熟诵，无不揣摩精微，并找出了旧典中的多处纰漏和错误。姚光派僧睿、僧肇等八百人学习罗什的教义，同时进一步译出了经论三百余卷。和尚慧睿才识高明，常随罗什传写佛经，罗什每每为慧睿讲授西方文辞，商讨中西文辞同异，说：“天竺国风俗重视文化礼制，它的音律体韵，以能入管弦乐器为最好。凡是进见国王，都要歌诵他的美德，佛经中的偈颂，都是它的体式。”罗什爱好大乘佛法，立志将它演绎出来，常常叹息说：“我如果下笔作出大乘阿毗昙，其功德不是迦旃子所能比拟的。如今能懂它的人很少，将到哪儿去找人谈论呢？”只好为姚兴著作了《实相论》二卷，姚兴把这部书奉若神灵。
鸠摩罗什曾经在长安草堂寺讲经，姚兴同朝臣、大德和尚一千多人肃容观听。罗什忽然走下高座，对姚兴说：“有两个小孩坐在我的肩膀上，想是要妇人了。”姚兴便召令宫女进奉，一经交合，生下两个儿子。姚兴曾经对罗什说：“大师聪明超绝，天下无双，哪能让法种绝嗣呢？”于是又把十个艺妓送给他，逼着他接受下来。从此罗什不再住僧房了，另盖厢房居住，其他的僧人也多仿效他。罗什于是便装满一钵小针，召集众僧人对他们说：“你们若能仿效我吃针，便可成家养妻了。”说罢，拿起汤匙吃针，像吃一般食物一样。众僧人自愧不能服食，便自动停止了私蓄妻室。
杯渡比丘在彭城，听说罗什在长安，便叹息说：“我同这人游息，一别已经三百余年。今生相见杳然无期，迟了只有来生相遇。”罗什临终前几天，觉得四体欠安，便三次念诵佛咒，又令外国弟子念诵来挽救他，神力还未生效，但已察觉生命危殆，于是竭尽全力向众僧告诉说：“因奉扬佛法，与诸位相遇，我未能尽心传授，只有待于来世，悲伤之情何可言状？！”死在长安。姚兴在逍遥园依外国的方式用火焚尸，柴火熄灭以后，尸身破碎了，只有舌头完好如故。