吕端，幽州安次(今廊坊安次区)人，出生在一个官宦家庭，是沧州节度判官吕兖之孙、后晋兵部侍郎吕琦之子。吕端以其父的官位荫补千牛备身，后任国子主簿、太仆寺丞、秘书郎等职。官至门下侍郎、兵部尚书，加右仆射，后以太子太保罢职。吕端自幼好学上进，终成大器。他这个人不仅仪表俊秀，处事宽厚忠恕、善交朋友，还十分讲义气，轻钱财，好布施。也正因为他的处事理政才华出众，才逐渐为赵光义所欣赏和重用。

其实，早在吕蒙正为相之时，赵光义就已经有重用吕端的想法。正当赵光义犹豫不决之际，他决定与另外几位大臣商议后再做决定。可是，当赵光义提及要任用吕端为相时，有一位大臣极力反对重用吕端，其理由就是：吕端这个人“糊涂”。赵光义根据自己多年来的体察，认为不是这样的。他立即解释说：“吕端小事糊涂，大事不糊涂。”其实在这个时候，赵光义就已更加坚定了任用吕端为相的决心。当时，赵光义还作过一首钓鱼诗，其中有两句是这样写的：“欲铒金钩深未达，磻溪须部钓鱼人。”这句诗的意思就是，对于任用吕端当宰相的事，已无可争议，宰相这个职位非吕端莫属。

北宋至道元年(995年)，赵光义就让吕蒙正改任参知政事，让吕端担任宰相。可当时吕端已经是60岁的老人了，赵光义看到双鬓有些斑白的吕端，也曾后悔自己对吕端重用太晚了，但事实已经如此，只要没继续错下去就好。或许对于其他人来说，无论在早年还是晚年时期，能够爬到这个一人之下、万人之上的位置，实在是无上的荣耀；可是吕端并没有觉得自己有多了不得，他脑子里想得更多的是如何调动全体臣僚的积极性，为此他不惜放弃自己的权力和地位。

吕端任宰相后，表现很是不错，办事持重而稳当、公道而廉洁，上任没多久，就已经深得朝中朝外、朝上朝下各方面的好评。这让赵光义心中更加踏实，觉得自己真的没看错人。当时，和他有同样声望的还有名臣寇准，寇准虽然办事干练，也很有才华，唯一不足的就是性子有些刚烈，不是一般人能够制服的了。吕端担心自己当了宰相后，寇准心中会不服气，一旦他闹起脾气来，朝政就会或多或少受到影响。他考虑再三，随后请求赵光义另下一道命令，让担任参知政事（副宰相）的寇准和他轮流掌印，领班奏事，并一同到政事堂中议事，这样寇准就不会有意见了。赵光义懂得吕端的心思，于是答应了吕端的要求。

后来，赵光义又下诏说：“朝中大事要先交给吕端处理，然后再上报给朕。”但吕端遇事的时候，还总是与寇准一起商量，一起决断，从来没有自作主张过，这点让寇准不得不佩服。过了一段时间，吕端又主动把相位让给了寇准，自己则去当参知政事。在世人眼中，吕端这种主动让权的行为，就是一种“糊涂”的举动。

吕端担任参知政事没多久，有一次下了早朝，他从文武百官前面经过，一个小官居然对吕端指指点点，摆起一副不屑的态度，不礼貌地问了一句：“这个人竟也当了参知政事了？”当时，吕端的随行人员听到这句话后都很气愤，觉得对吕端很不公平，执意要前去问那个人的姓名，看看这个人到底是干什么的。吕端立即制止说：“不要问，你问了他就得说，他说了我也就知道了，而我一知道，对这种公然侮辱我的人便会终生不能忘；着意地去报复对我来说是肯定不会的，但以后如果有什么事涉及他，撞到我手里，想做到公正对待也一定很难。所以，还是不知道的好。”吕端这种君子不念恶、揣着明白装糊涂的举动，依然被世人看成“糊涂”。

又有一年，赵光义突然把大臣李惟清从掌管全国军事的枢密使位子上换了下来，让他去当负责监察百官的御史中丞。从官位上来说，这属于平调，但实际权力却发生了变化。李惟清认为，这一定是吕端在皇帝面前说了坏话，才把他弄下来的。从此，李惟清就处处想找吕端的麻烦，想要报复一番。有一次，他趁吕端有病在家休息，没有上朝的机会，在皇帝面前告了吕端一个恶状。很快，这件事传到了吕端的耳中。吕端听后不以为然，既没有去向皇帝说明情况，也没有找李惟清算账，而是很淡定地说了句：“我一辈子行得正、坐得直，没有做什么对不起人的事，又怕什么风言风语呢？”而他这种不与人计较的坦然心态，再次被认为是一种“糊涂”的举动。

当然，对于吕端的“糊涂”，还在于他的不置产业。他为官多年一直非常清廉，那些贪污受贿的事儿，在他身上从来没有发生过，就连他每年应得的那份俸禄，他也常常分出一些周济、照顾别人，自己则过着艰苦的生活。也可能是他过于清廉，以至于他的两个儿子竟然因为生活困难，没钱娶妻生子，被逼无奈之下，只好把房产抵押给了别人。试想，以他宰相之尊，他的后人却贫困到此地步，这在常人的眼里，他是多么的“糊涂”，多么的不懂得生活。

吕端一生经历了三代帝王、三个朝代，在他四十年的宦海生涯中，他几乎没有经历过什么太大的冲击，这种经历在封建王朝中，实在是不多见的。当然，这与他在大局、大节问题上毫不糊涂，但在事关个人利益的问题上却能“糊涂”了事的品质，是有着很大关系的。他无论是在内政，还是外交方面，都有着很好的政治才能和独到的见解。

北宋开国宰相赵普曾这样评价他：“得到褒奖不曾高兴，遇到挫折不曾害怕，具有宰相的气度。”但真正使他名传千古的，还是他的大事不“糊涂”。