张居正用人，打破了君子与小人的界限。总结他用人的经验，最核心的一点就是重用循吏、慎用清流。循吏，就是脑子一根筋，只想把事情做好，把结果放在第一位，而不会有道德上的约束；清流则不同，总是把道德放在第一，说得多，办成的事儿却少。
有这么一个例子，就是对于海瑞的任用。中国的老百姓，几乎没有人不知道海瑞抬着棺材给嘉靖皇帝上书的事。即便在当世，海瑞就已经成了一个民间人物，清官形象的代言人。嘉靖皇帝看了海瑞的万言书，非常震怒。不过他没有处死海瑞，但也不放他，就关在大牢里不闻不问。嘉靖皇帝死了以后，徐阶把海瑞从监狱里放了出来。
鉴于海瑞的名声，徐阶决定予以重用。他让海瑞到江南，当了应天府的巡抚，管南京周围几个最富的州府。海瑞在那儿搞了两年，结果当地的赋税减了三分之二。大户人家都跑了，没有了税源。他自己倒是非常清廉，八抬大轿也不坐，骑驴子上班。这样，他班子里的其他领导很不满意，因为他是一把手，既然他骑驴子，那二把手岂敢坐轿？因此都想办法调走。富人都很怕他，穷人和富人打官司，不管谁有理，肯定是富人输。海瑞是一个非常理想化的人物，但他对行政管理的确缺乏经验。工作搞不上去，海瑞气得骂“满天下都是妇人”，愤而辞职。
张居正当了首辅之后，让每一个三品以上的大臣都向朝廷推荐人才，其中有不少人写信推荐海瑞。当时的吏部尚书杨博就这个问题还专门找了张居正，希望他起用海瑞，但张居正就是不用他。为什么呢？他觉得海瑞是一个很好的人，做人没有话说，道德、自律都很好。但好人不一定是好官。好官的标准是上让朝廷放心，下让苍生有福。海瑞做官有原则，但没器量；有操守，但缺乏灵活，因此有政德而无政绩。这一点，张居正看得很清楚。张居正不用他，还有一层原因：海瑞清名很高，如果起用，就得给他很高的职位，比他过去的职位还高，这才叫重用；如果比过去的职位低，那就证明张居正不尊重人才。话又说回来，如果你给他更高的职位，他依然坚持他的那一套搞法，岂不又要贻误一方？张居正想来想去，最后决定不用海瑞。
张居正有一同年叫汪伯昆，安徽人，和另一位同年王士祯一起成为当时诗坛两大领袖。汪伯昆在湖北当了几年巡抚，张居正当了首辅后，把他调到北京当兵部左侍郎，也就是国防部副部长。汪伯昆履任之后，张居正给他一个任务，巡视整个西北的军事设施，北京、蓟辽、陕西、山西这一带。
汪伯昆的巡边之旅，第一站就是蓟辽。当时的蓟辽总兵是大名鼎鼎的戚继光。汪伯昆到了之后，首先不是听汇报，探讨军事问题，而是和当地的文人在一起吟诗作赋。张居正听到这个消息后有点不满。汪伯昆回到北京，给皇上写了一份奏章，汇报他视察边境军事的情况。字斟句酌，是一篇非常优美的散文。张居正看了奏章以后，批了八个字：“芝兰当道，不得不涂。”兰花芝草，都是最好的花草，但它长得不是地方，长在高速路上，路是走车的，不是花园。既然长错了地方，就得铲掉。你汪伯昆是优秀的诗人，就到诗歌协会去，国防部是搞军事的地方，不是你吟诗的地方。这样就把汪伯昆免了官。
