个消息传来，御史中丞裴度也在长安城的通化坊外遇刺。裴度被刺客砍中三剑，随从王义舍身掩护被砍断右手，刺客看到裴度跌入路边的水沟，以为他死了，于是迅速离去。
刺客竟然在同一时段对两位朝廷重臣同时发起刺杀。一时间人心惶惶。唐宪宗下令封闭城门实施戒严，并出动禁军护卫其他宰相出入。
畏于唐宪宗的压力，禁军和京兆府各路机构开始全力搜捕，但刺客胆大妄为，竟然在长安城中散发纸条，威胁查案人员说：“毋急捕我，我先杀汝！”长安城中，到处弥漫着恐慌不安的气氛。
武元衡的曾祖父武载德是武则天的堂兄弟，作为武则天的堂侄重孙，武元衡天资聪颖、才华横溢，是闻名中唐的著名诗人，尽管出身贵戚家族，但武元衡刚正不阿，就在被刺杀的前一天，他还在皇宫中和宪宗商讨淮西战事。
当时，平定淮西的战事已经进行一年多了，但是围攻淮西的十几万中央军和地方军却玩寇自重，希望能得到朝廷的更多赏赐。
原来武元衡遇害前一年，唐宪宗发起了讨伐淮西节度使吴元济的战争，这让成德节度使王承宗、平卢淄青节度使李师道心急如焚。有感于唇亡齿寒，王承宗四处出击，通过贿赂、恐吓、威胁等各种手段，试图迫使唐朝中央放弃削藩战争。与此同时，李师道也秘密派出军士，烧毁唐朝中央储存江淮财赋的河阴转运院，烧掉钱财三十多万缗，布帛三十多万匹，谷物三万多斛，这使征讨淮西的唐朝官军军心大动；但即使遇到这样的困难，唐宪宗也不肯放弃征讨淮西的战争。
却说裴度重伤昏迷数日，苏醒后的第一句就是：“淮西，心腹之疾，不得不除！”裴度的话让唐宪宗终于下定决心：“我用裴度一人，足以平贼！”随后将裴度晋升为宰相，接替武元衡一职，继续主持削藩战争。唐宪宗还下诏追捕凶手，并称谁能捕得凶手，可授五品官，赏钱一万贯。
随后，长安城展开全城大搜捕，元和十年六月初七，也就是武元衡遇害后的第四天，有人奏称，有位名叫张晏的吏卒跟凶手的身影十分相似。唐宪宗立即命人将张晏缉拿下狱拷问，经过审讯，张晏承认自己就是杀害武元衡的凶手。
张晏供称：成德节度使王承宗担心淮西平定后“唇亡齿寒”，在多番贿赂武元衡和裴度不成后，最终痛下杀手，指使张晏等人行刺武元衡和裴度。
为了尽快恢复秩序安抚人心，就在武元衡被刺后的第25天，唐宪宗下诏将张晏等人以凶手的名义公开处死。