曹操在下邳打敗呂布，張遼率軍投降，被任命為中郎將，賜以關(guān)內(nèi)侯爵位。由于屢立戰(zhàn)功，升為裨將軍。袁紹失敗后，曹操派張遼另率軍平定魯國諸縣。又同夏侯淵在東海圍攻昌豨，幾個月后糧草已盡，大家議論要率軍返回，張遼對夏侯淵說：“幾天來，我每次走到營壘前，昌豨就注視著我。另外他們射箭越來越少，這必然是昌豨猶豫不決，所以不全力作戰(zhàn)。我想用言語挑動他，或許可以誘使他歸降?！庇谑蔷团墒拐吒嬖V昌豨：“曹操有令，派張遼傳達給您?！辈g果然下來同張遼交談。張遼勸說他：“曹操神明英武，正用德行安撫四方，先歸附的人必將受到大獎賞?！辈g就答應(yīng)投降。張遼于是獨自上三公山，來到昌豨家中，拜會他的妻子和兒子。昌豨欣喜異常，隨張遼去見曹操。曹操讓昌豨返回，責(zé)備張遼說： “這并非大將應(yīng)采用的方法?！睆堖|致歉說：“因為您的威信著稱于四海，我張遼說奉您的旨意，昌豨必然不敢加害我。”