劉善明，是劉懷珍的族弟。父親劉懷人，在宋朝做官為齊、北海二郡太守。元嘉末年，青州發生饑荒，人與人彼此相食。劉善明傢裡有積存的谷子，自己隻吃稠粥，開倉救災，鄉民有很多獲得瞭活命和救助，百姓們都把他傢的田地稱為續命田。
劉善明少年時期安靜讀書，刺史杜驥聽說瞭他的名字，等候要見他，而他卻推辭不見。四十歲的時候，刺史劉道隆聘他為中從事。劉懷人對劉善明說：“我已經知道瞭你的立身，還想見到你的立官。”劉善明應聘瞭，又舉他為秀才。宋孝武帝見到他的策論直率有力，感到他十分奇異。
泰始初年，徐州刺史薛安都反叛，青州刺史沈文秀響應他。當時州治在東陽城，劉善明傢在城郭以內，不能自己逃出。他的伯父劉彌之虛假地對沈文秀說自己請求效力，沈文秀讓他率領軍主張靈慶等五千人增援安都。劉彌之出門以後，秘密地對部下說：“這才逃出禍坑瞭。”走到下邳，便背棄瞭沈文秀，劉善明的堂伯劉懷恭為北海太守，占據郡城與他相應。劉善明秘密相約，收集瞭門宗部下，得到三千人。夜間斬瞭關門的守將投奔北海。他的族兄劉乘人又在渤海聚集兵眾呼應朝廷。而劉彌之等人不久被薛安都所殺，明帝追贈他為青州刺史。任命劉乘人為冀州刺史，劉善明為北海太守。又任命他為尚書金部郎。劉乘人生病去世，便以劉善明為冀州刺史。沈文秀投降以後，任命劉善明為海陵太守，郡的邊境處在海邊，沒有樹木，劉善明讓人種植榆、茶等各種果樹，於是獲得瞭利益。還京後為直閣將軍。
泰始五年，魏朝攻克瞭青州，劉善明的母親在那裡，把她轉移到瞭代郡。劉善明穿佈衣吃蔬菜，悲哀得像守喪一樣，明帝每次見到，都為他而嘆息。後來轉為巴西、梓桐二郡太守。劉善明因為母親在魏朝，不願意西行，流著眼淚堅持請求，得到瞭準許。朝廷官員大多同情劉善明的心事，元徽初年派人出使北方，朝中議論讓劉善明舉薦人選。劉善明推薦州鄉北平人田惠紹出使魏朝，把他母親贖瞭回來。
當時宋朝的後廢帝剛剛登基，群臣執政，劉善明獨獨侍奉齊高帝，委身效忠。出京擔任西海太守，行青、冀二州刺史。劉善明的堂弟劉僧副與劉善明都在傢鄉很知名。泰始初年，魏朝進攻淮北，劉僧副率領部下二千人東面依憑海島。齊高帝在淮陰，認為他的作為很豪壯，召他相見，任用他為安成王撫軍參軍。後廢帝放肆暴虐，高帝憂慮恐懼，常常讓劉僧副化裝出行，偵察風聲。讓他秘密告訴劉善明和東海太守垣崇祖，使他們擾動魏軍。劉善明勸他安靜地等待時機，高帝采納瞭。
廢帝被殺，劉善明做高帝的驃騎咨議、南東海太守，兼管南徐州事務。沈攸之反叛，高帝感到非常擔憂。劉善明獻計說：“沈攸之控制著八個州，縱情搜刮，包藏賊志，已有十年。他性情陰險急躁，才能不可擔當重任，叛逆起兵已經幾十天，徘徊不進，難道該是有所等待麼？一則是他不懂兵機，二則是人心怨恨，三則是他有掣肘的憂慮，四則是天奪瞭他的膽魄。本來懷疑他會迅速推進，攻其不備；現在朝廷六師一齊奮起，諸侯共同舉兵，他已經成為籠中之鳥瞭。”事情平定後，高帝召劉善明返回京城，對他說：“卿分析沈攸之，即使張良、陳平也隻能是這樣罷瞭。”於是調他擔任太尉右司馬。
齊臺建立，他擔任右將軍，因為疾病推辭沒有上任。司空褚彥回對劉善明說：“高尚的事業，本是您歷來的心意，現在朝廷正相委任，哪能就學隱士赤松子與王子喬呢！”劉善明回答說：“我本來就沒有做官的興趣，既然遇到瞭知己，所以奮力奔走。天地已經廓清，朝廷人才濟濟，我的懷抱已經實現，不敢再貪求富貴。”
高帝登基，因為劉善明有功而且忠誠，打算給他俸祿，就召來劉善明對他說：“淮南接近京城，是國傢的形勝之地，非親近的賢臣不能管理這裡，卿給我高臥治理這裡吧！”於是他便代替明帝擔任瞭淮南、宣城二郡的太守。又派遣使者前往授爵，封他為新淦伯。劉善明到瞭郡上，上表言事共十一條：其一認為“天地開創，應該慰問遠方，廣泛地傳揚皇上的恩澤”。其二認為“京都所屬的遠近地方，應該派發醫生和藥物，慰問疾苦，年齡九十以上以及病重不能治療的，應該酌情賞賜”。其三認為“宋代的赦令，真正得到寬大的很少。我認為現在下赦書，應該讓事實與它相合”。其四認為“劉昶還在，或許會到邊境上來送死，各城應該嚴密守備”。其五認為“應該廢除宋朝大明以來的苛細政法條令，尊崇簡易”。其六認為“凡是各種土木建築開支，可以暫且停止”。其七認為“帝子王女，應該崇尚簡約”。其八認為“應該詔令百官以及府州郡縣，各自貢獻正直言論，以弘揚唐堯、虞舜的美德”。其九認為“忠貞孝悌，應該以特殊的辦法提拔；清苦節儉，應該授給他政務”。其十認為“革命成功初始，應該挑選人才出使北國”。其十一認為“交州險要而遙遠，在荒原以外，宋末政治苛刻，以至怨恨叛變。現在應該以恩德進行懷柔，不應勞累將士遠征，攪動邊民”。又撰寫瞭《賢聖雜語》上奏，托辭進行諷諫，皇上用優厚的詔書進行瞭答復。
劉善明又提議建築宣陽門，他上表說：“應該明確地方長官的賞罰，建立學校，制定齊朝的禮儀，開設賓館以接待鄰國。”皇上答復說：“用賞罰以警戒地方長官，修飾賓館以等待遠國，都是古代的善政，是我應該努力做到的。重新創造新的禮節，可能不容易編制。國學的美好，已經下令告訴瞭公卿。宣陽門現在下令停建。我會有很多缺失，很想再聽到您的建議。”
劉善明身高七尺九寸，品質樸素不喜歡聲色，他所住的茅齋，隻是用些斧子砍的木頭。床和桌椅，都不加刨削。從少年時就立下瞭節行，他常說：“在傢應當孝順，為官應當清廉，可以作為子孫的楷模就行瞭。”等他多次做瞭州郡長官，頗多貪污納賄，崔祖思感到奇怪，便問他怎麼回事，他回答說：“管子說過，鮑叔瞭解我。”於是流著眼淚說：“方寸已經亂瞭，哪有閑暇廉潔！”所得的金錢都用來贖回他的母親。等他母親回來，清廉的節操才嚴峻起來。所經歷的職務，廉潔簡明而不煩瑣，他的俸祿都散發給瞭親友。
他和崔祖思非常要好，崔祖思出京為青、冀二州官長，劉善明寫信跟他敘舊，於是以忠誠相勉勵。等聽說崔祖思死去，傷心痛哭，便得瞭病。建元二年去世，遺命要實行薄葬。追贈他為左將軍、豫州刺史，謚號為烈伯。他的兒子劉滌承襲瞭爵位。
劉善明傢中沒有遺留的積蓄，隻有書八千卷。高帝聽說他傢清貧，賜給劉滌傢葛塘的庫存谷子五百斛，說：“葛塘的庫存也在我的官署之下，要讓後世知道他的見識不凡。”