庾杲之字景行，新野人。祖父庾深之，位居義興太守，以善政而聞名。父親庾粲是南郡王劉義宣的丞相城局參軍，南郡王起兵，他被殺害。
庾杲之幼年就很有孝行，宋朝的司空劉面力見到他認為很奇異，對他說：“見到您足以使江漢一帶仰望，優秀人才聲名遠揚。”初次做官擔任奉朝請，逐步升遷為尚書駕部郎。傢業清貧，吃的隻有醃韭菜、煮韭菜、生韭菜等。任窻曾經給他開玩笑地說：“誰說庾郎貧窮，吃菜曾經有三九(韭)二十七種。”
他經過多次調動擔任瞭尚書左丞。王儉對別人說：“過去袁公做衛軍，想用我為長史，雖然沒有做成，關鍵是他曾有這種意向。現在也需要像我們這樣的人。”於是任用庾杲之為衛將軍長史。安陸侯蕭緬給王儉寫信說：“貴府的僚佐，實在難以選拔。庾景行泛淥水，依芙蓉，多麼美麗啊！”當時的人把入王儉府比作蓮花池，所以蕭緬寫信贊美他。
他歷任黃門吏部郎，禦史中丞，參與大選。他容貌美好，善於談笑。曾經兼任侍中夾侍，柳世隆在皇帝那兒坐，對齊武帝說：“庾杲之被蟬冠所輝映，更加富有華彩，陛下所以應當讓他真地成為貴近朝臣。”皇上很高興，王儉則說：“國傢因為庾杲之清美，所以允許他假借官職。如果讓他真地任職，應當在胡諧之的後面。”
武帝曾經與朝臣商議，一次酒後他對群臣說：“我以後應當得到什麼樣的謚號？”群臣沒有人回答。王儉於是眼睛看著庾杲之，庾杲之從容地說：“陛下壽比南山，正與日月齊明，千載以後，難道是臣子們輕易可以衡量的嗎？”當時的人都很稱贊他雄辯的對答。
庾杲之曾經兼任主客郎對答魏朝的使者，使者問庾杲之說：“百姓們怎麼能夠傢傢寫門帖賣宅子？”回答說：“朝廷既然要掃蕩京洛，克復神州，所以才傢傢賣宅子。”魏朝的使者縮著鼻子而不回答。
當時諸王年少，不能輕率地稱贊和接待別人，詔令庾杲之和濟陽的江淹五天一次去到諸王那裡去，讓他們交遊通好。庾杲之又升遷為尚書吏部郎，參大選事務，太子右衛率，加任通直常侍。永明九年(491)去世，皇上非常惋惜，謚號為貞子。