宰相裴度荐为兴元书记，所作文檄豪健，一时推许。元舆负才，锐意进取。太和五年（831）上疏自荐，反复八万言，文辞精粹，出入今古，获文宗李昂嘉许。以擅文敢谏著称。宰相李宗闵谓其浮躁诞肆不可用。及李训得宠，召为左司郎中，充知杂事侍御史。九年七月权御史中丞。文宗省察记录囚徒罪状，因元舆奏辨明审，九月升御史中丞，以本官兼刑、兵两部侍郎，同平章事。时宦官仇士良专权。十一月，李训、舒元舆和凤翔节度使郑注等，密谋内外协势，铲除宦官势力。以左金吾卫石榴树上夜有甘露为名，诱使仇士良等往观，谋加诛杀。因所伏兵甲暴露，事败。元舆单骑出走，为仇士良神策军生擒，不日遭腰斩。史称"甘露之变"。弟元褒、元肱、元迥官同时。元褒早卒，余全被族诛。所著《牡丹赋有序》一篇，时称其工，一日，文宗绕栏微吟，为之泣下。大中八年（854）昭雪。著有《舒元舆集》，以散佚。《全唐文》录存其文16篇。其文《贻诸第励石命》 、《录桃源画记》收入《唐代散文选》，其诗入《全唐诗》6首。
将寻国朝事，静读柳芳历。八月日之五，开卷忽感激。正当天宝末，抚事坐追惜。仰思圣明帝，贻祸在肘腋。杨李盗吏权，贪残日狼藉。燕戎伺其便，百万奋长戟。两河连烟尘，二京成瓦砾。生人死欲尽，揳业犹不息。肃宗传宝图，寇难连年击。天地方开泰，铸鼎成继述。万国哭龙衮，悲思
轩辕厌代千万秋，渌波浩荡东南流。今来古往无不死，独有天地长悠悠。我乘驿骑到中部，古闻此地为渠搜。桥山突兀在其左，荒榛交锁寒风愁。神仙天下亦如此，况我戚促同蜉游。谁言衣冠葬其下，不见弓剑何人收。哀喧叫笑牧童戏，阴天月落狐狸游。却思皇坟立人极，车轮马迹无不周。
中部接戎塞，顽山四周遭。风冷木长瘦，石硗人亦劳。牧守苟怀仁，痒之时为搔。其爱如赤子，始得无啼号。奈何贪狼心，润屋沉脂膏。攫搏如猛虎，吞噬若狂獒。山秃逾高采，水穷益深捞。龟鱼既绝迹，鹿兔无遗毛。氓苦税外缗，吏忧笑中刀。大君明四目，烛之洞秋毫。眷兹一州命，虑齐
十年一相见，世俗信多岐。云雨易分散，山川长间之。我衔凤阙恩，按狱桥山陲。君在龙骧府，掌奏羽檄词。相去百馀里，魂梦自相驰。形容在胸臆，书札通相思。烦君爱我深，轻车忽载脂。塞门秋色老，霜气方凝姿。此地少平川，冈阜相参差。谁知路非远，行者多云疲。君能犯劲风，信宿
