却说张汤乃杜陵人，自小便生成一种吏才。其父为长安丞，一日出门，使他看守房屋，张汤年幼贪玩，未及留心家事。
等到其父回来，查看家中情况，谁知厨中藏留之肉被鼠窃食。其父大怒，将张汤打了一顿。张汤被打，自念为鼠所害，心中不甘，要想寻鼠报仇。
次日其父出外，张汤闭上房门，掘开鼠穴，果然捕获一鼠，并搜得食剩之肉。张汤大喜，心想平日常见父亲审理案件，处决罪犯，甚是有趣，我今捕得此鼠，正好仿照父亲行事，不但泄愤，又可取乐。于是将鼠缚住当作犯人，自己做起刑官坐堂审案。吊起此鼠取出余肉，喝问道：“此肉是否被汝窃食？”那鼠只是唧唧作声，张汤便当他不肯实供，喝令拿下拷打，自己却用小棍向着鼠身乱敲。那鼠被打跳跃大叫。张汤当作他已招认，遂录出口供拟下判词，援据法律处以死罪。又假作文书将此案申报朝廷，得了批准，案情已定，然后将鼠就堂下磔死，算是行刑了结此案。
张汤正在游戏，恰值其父回来，问他干嘛？张汤告知其事，其父便索取张汤判词看了一遍，心中大加惊异。原来此判词字字精当，如同老狱吏一般，我一向并未教他，他又何从学得，想是天生其才。既然如此，索性造就他将来做个刑官。从此其父便将自己经办案件，所有文书判词，交与张汤书写，使之练习。张汤对于刑狱日加熟悉。其父死后，张汤初为长安狱吏，便受收他人财物。又与长安富商田甲、鱼翁叔等交结，彼此钱财往来。
其时正值景帝末年，王皇后同母弟田胜因事犯罪，系在长安狱中。张汤暗想此人乃皇后之弟，将来太子即位便是国舅，正好趁此时先烧冷灶结下交情。于是倾身照顾田胜，吩咐狱卒好生看待，又设法将所犯案件宽缓下来。果然不久武帝即位，田胜得释出狱，封为周阳侯，心中十分感激张汤，又带领他遍见朝中贵人。恰遇宁成由中尉移为内史，张汤为其属吏，甚被赏识，荐于丞相卫绾，卫绾调他为茂陵尉。及田蚡拜相，以张汤为丞相史，荐补侍御史。陈皇后巫蛊事起，武帝发交张汤审办，张汤穷究党羽，连坐死者三百余人。武帝以汤为能，擢为太中大夫，命与赵禹共定律令。二人意见相同，彼此一见如故。
赵禹年长，张汤以兄礼事之。所定法令，专务苛酷。又作见知故纵之法，凡官吏见知他人犯法，不即出头告发，是为故纵，与犯人同罪。
李蔡死后，张汤满望自己得升相位，偏武帝不使为相，另命太子少傅庄青翟继李蔡后任。张汤因为庄青翟直受不辞，未尝