延熹二年，在杨秉称病六年后，梁冀被桓帝联合宦官诛杀，杨秉于是被任命为太仆，又调任太常。

白马县令李云因直言劝谏桓帝而获罪，杨秉为李云争辩但没有成功，因而被免官归田，同年十二月又被征召为河南尹。

之前，宦官单超哥哥的儿子单匡任济阴郡太守，仗势贪污放纵，兖州刺史第五种派从事卫羽调查审问，查出赃款五六千万钱。

第五种立即上奏告发单匡，并弹劾单超。单匡困迫，于是贿赂刺客任方行刺卫羽。

卫羽发觉奸谋，将任方逮捕囚禁在洛阳狱，单匡害怕杨秉穷追此事的来龙去脉，便密令任方等人越狱逃跑。

尚书因而召见杨秉责备质问他，杨秉回答说任方等人为非作歹，实由单匡主使，请用囚车把单匡押解到京师，当面考问这件事，他们作奸犯科的行踪影迹定会立刻清楚。

可惜杨秉竟被判罪，送到左校去罚作苦役，后因久旱不雨而被赦免，此时恰好发生日食，泰山太守皇甫规等人为杨秉辩冤，称他忠诚正直，不该长期压制不用。

后来桓帝下诏用公车征召杨秉与处士韦著，二人均称病不至，有关部门弹劾二人对朝廷大不敬，要求下发公文让二人所属的郡治他们的罪。

尚书令周景与尚书边韶讨论后上奏认为应该再征召二人，如果还不到，再讨论如何处罚，朝廷于是再次征召杨秉，他才到朝廷，被任命为太常。

延熹五年冬，杨秉接替刘矩任太尉。当时，宦官势力正盛，保任他人及自己的子弟为官，遍布天下，这些人竞相贪赃枉法，朝廷内外一片嗟叹怨怒。

杨秉与司空周景共同请求惩治奸猾贪污之人，桓帝听从，他于是开列上奏匈奴中郎将燕瑗、青州刺史羊亮、辽东太守孙渲等牧守以下五十多人，他们或被处死，或被免职，天下没有不肃然起敬的。

汉桓帝在位时期，郡国的上计吏大多被留在京师被任命为郎官，杨秉上疏认为三署如今有郞七百多人。

国家开支巨大、库藏空虚，而游手好闲的人很多，而且行为不端的郡守国相，想用国作为池塘，浇洗自己的罪责秽行。

他认为应该杜绝不循正道的拜任，以阻塞觊觎权力的苗头，至此到桓帝时代结束，计吏不再留京拜任为郎。

延熹七年十月，桓帝南巡祖陵，特诏命杨秉随从，南阳太守张彪在桓帝即位前与其有旧恩，以桓帝的车马将到为由，借机增收租调，很多装入自己的私囊。

杨秉听说此事，便下文书责备荆州刺史，要求他把详情另行上报公府，等到桓帝抵达南阳时，他身边的宦官亲信都营私谋取奸利，桓帝不断下诏，任命了很多人为郎。

杨秉又上疏劝谏说太微宫五帝座后，积聚着二十五星，名叫郎位，入则在宫中值宿，担任警卫；出则在地方官府任职，牧守百姓。

陛下应该割舍不忍拒绝的恩惠断绝左右谋取奸利的道路，桓帝这才不再颁布任命为郎的诏书。

当时，中常侍侯览的弟弟侯参任益州刺史，残暴贪婪，赃款累计多达一亿。

杨秉对他进行弹劾，朝廷用囚车把侯参押解回京，侯参在途中自杀，京兆尹袁逢从长安的客馆里查获侯参的车辆三百多辆，装载的金银珍宝不计其数。