范雲字彥龍，南鄉舞陰人，是晉朝平北將軍范汪的六世孫。祖父范璩之，是宋朝的中書侍郎。范雲六歲跟著姑父袁叔明讀《毛詩》，每天誦讀九頁。陳郡殷琰以善識人才聞名，一次探訪叔明時見到他，對叔明說：“這是宰相的材料啊。”
范雲生性機警，有才識，善寫文章，下筆即成，人們往往懷疑他是早就構思好瞭。他父親范抗任郢州府參軍，范雲隨父在郢州。當時吳興沈約、新野庾杲之和范抗是府中同僚，見到范雲很快就成為朋友。
初入仕任郢州西曹書佐，後轉任法曹行參軍。不久沈攸之舉兵包圍郢州，當時范抗作為府內僚屬，入城固守，傢屬留在城外。范雲被城外兵士抓去，沈攸之把他叫來問話，聲色俱厲，但范雲面不改色，回答從容不迫。攸之笑道：“你真是個招人喜歡的人兒，先回傢去吧。”第二天又叫來范雲讓他到城裡送信，犒賞武陵王一石酒、一頭小牛；犒賞長史柳世隆二十條魚會魚，而都把頭去掉。城裡有人要殺范雲，范雲說：“我的老母弱弟，命都在姓沈的手裡攥著，如違背他的命令，一定禍及我的親人。現在在這兒被殺，我心裡像薺菜一樣甘甜。”柳世隆一直和范雲關系好，就解救瞭他。
後來官拜員外散騎郎。齊建元初年，竟陵王蕭子良作會稽太守，范雲任府主簿。竟陵王對他還不瞭解。後來約定瞭日子去登秦望山，命范雲同行。范雲因為知道山上有秦始皇刻石，此文三句一韻，人們多按兩句一韻讀，都讀不出韻味；又因為字體是大篆，大多數人不認識，於是夜間找出《史記》誦讀熟練。第二天登山，子良讓賓客僚屬們讀刻石，都糊裡糊塗不認識。最後問到范雲，范雲回答說：“下官曾讀《史記》，見過這刻石文。”於是上前流暢地讀瞭下來，子良大喜，於是把他待為上賓。從此受到的寵幸王府中無人能比。竟陵王作丹陽尹，他又為主簿，深得親信任用。一次去進見齊高帝，碰上有人來獻白烏鴉，高帝問這是什麼祥瑞，范雲官位低最後回答，說：“我聽說王者禮敬宗廟就會有白烏鴉來到。”當時高帝剛剛拜謁完宗廟，於是說：“你說的對啊，神靈感應的道理，竟是如此應驗啊！”
蕭子良歷任南徐州、南兗州刺史，范雲一直跟隨州府遷任，經常向子良陳述朝政的得失。不久范雲任尚書殿中郎。子良為他求俸祿，齊武帝說：“聽說范雲專門奉承你，正應當流放他。”子良回答說：“范雲侍奉臣下時，動不動就相規勸，諫書現存著一百多張。”武帝要來觀看，所說的都很懇切中肯，嘆息瞭半天，說：“沒想到范雲居然是這樣，正該讓他來輔佐你。”
子良作司徒時，又補他為記室。當時巴東王蕭子響在荊州，殺害向朝廷密告他的屬官，京城裡人心浮動，多有背叛朝廷之意。而豫章王蕭嶷雖說鎮守東府城，卻經常回自己傢，動不動就是十天半月。蕭子良則在西郊營造府第，終日遊戲而已。梁武帝蕭衍當時作南郡王的文學，和范雲一起受蕭子良禮遇。蕭衍勸子良回石頭城，並說大司馬應該回到東府去，子良不聽。蕭衍把這情況告訴范雲，當時廷尉平王植被齊武帝親近，范雲就對王植說：“國傢西部不太平，人心叵測，大司馬怎麼能長期待在傢裡？司徒也應該鎮守石頭城。你在皇帝那兒既然出入甚多，說說這事應該比較容易。”王植就請范雲代寫啟奏，自己呈上皇帝。不久齊武帝就命二王各鎮一城。
文惠太子曾到東田觀看收稻子，范雲當時跟從著。太子回頭對他說：“割稻子看著很有意思啊。”范雲進言說：“三個季節的勞動，是很辛苦的，希望殿下能體察務農的艱難，不要尋求一朝的飲宴之樂。”太子變瞭臉色，向范雲致謝。從東田出來時，侍中蕭緬以前並不認識范雲，這時到車邊握住范雲的手說：“不料今天又聽到剛直的言論。”
齊永明十年(492)出使魏國，魏國派李彪向他宣示魏帝的旨意，李彪來到范雲的住處，對范雲很表贊譽。李彪為他拿來甘蔗、黃柑、粽子，吃完馬上又添上。李彪笑著對他說：“范散騎稍微省著點兒吧，吃完可就再沒有瞭。”回國後，又改任零陵內史。原來，照零陵的舊制度，官員俸祿除瞭公田的俸米之外，另外收雜調四千石。范雲到任後，隻收取雜調的一半，百姓都很高興。因此很得齊明帝贊賞，調回京都任為正員外郎。
當時齊高帝、武帝一族的王侯都恐懼大禍臨頭，范雲趁明帝召見時乘機進言說：“從前太宰文宣王對我說，曾經夢到在一座高山上，頂上有一個深坑，看見文惠太子先掉下去，接著是武帝，再接著是文宣王。又看到仆射在室內坐在禦床上，旁邊有帝王的羽儀，不知這是個什麼夢，讓我註意不要對別人說。”明帝流淚說：“文宣王的好處難以辜負。”於是對待他的兒子蕭昭胄兄弟比對其他宗室子弟好些。
范雲受寵於蕭子良，江礻石便向范雲求與他女兒結親，酒喝得多瞭，江礻石從巾箱中取出剪刀給范雲，說：“先拿它作為聘禮。”范雲笑著接受瞭。等到江礻石官作大瞭，范雲又趁著酒醉對江礻石說：“從前和將軍都是黃鵠，如今將軍變成瞭鳳凰，荊釵佈衣的門戶，和華貴的門第理應分別。”於是拿出剪刀還給江礻石，江礻石也就另覓高門為婚。等江礻石遇禍被殺，妻兒流離，范雲經常照顧他們。
後來任始興內史。按照舊例，在郡界內的百姓如果捕到逃亡的奴婢，統統送到作坊做苦工；如果抓到逃亡部曲則賣掉，換成銀子繳納官府。范雲先讓百姓給他們作上標記，如果百日後找不到失主，便依法判決送交朝廷。另外始興郡的後堂歷任相沿有雜工作坊，范雲統統罷去，讓服役者回傢，這些都得到皇帝的稱贊。始興郡內有不少霸道奸滑的大族，郡守有不如他們意的，就合謀殺害，不然就趕走他。邊境上的蠻人俚人中，盜賊尤其多，前任內史多攜帶兵器以自衛。范雲入境，則用恩德安撫他們，撤掉防衛哨所，於是境內太平無事，商賈可以露宿野外，郡內百姓把他稱為神明。
改任廣州刺史、平越中郎將。到任後，派人祭祀孝子南海的羅威、唐頌、蒼梧的丁密、頓琦等人的墳墓。當時江礻石的姨弟徐藝作曲江縣令，江礻石再三托付范雲關照他。有一個叫譚儼的，是縣裡的豪族，徐藝鞭打瞭他，譚儼感到受瞭奇恥大辱，到京城告瞭范雲，范雲因此被征召回去下瞭獄，碰上大赦才得以赦免。
當初，梁武帝作司徒祭酒，與范雲都在竟陵王的西邸，關系很親密。永明末年，梁武帝和他哥哥蕭懿經占卜居住在建康東郊外，范雲也蓋瞭房子和他們為鄰。梁武帝每次到范雲的住處，范雲的妻子常常會聽到帝王出行時清道的聲音。范雲又曾和梁武帝一起夜宿顧日高之傢裡，日高之的妻子正生孩子，有鬼在外面說：“這屋裡有王有相。”范雲起身回道：“是王你就應當瞻仰叩拜，是相就該歸命於王。”因此以後便為蕭衍盡心謀劃。後來武帝起兵，將要到建康，范雲雖沒有擔任齊朝的官職，但自己覺得與蕭衍平時關系親近，怕被東昏侯懷疑，想要求入城避嫌，先派車接來太原孫伯翳來商議。伯翳說：“如今上有天象顯示，下有災變感應，蕭征東以濟世雄武之才，挾天子而令諸侯，天時人事已經如此，還用多說什麼。”范雲說：“這話正合我意，隻是如今羽毛未豐，不得不回到籠子裡去，希望閣下好好留意。”范雲入城後，被任為國子博士，還未正式任命，東昏侯被殺。侍中張稷派范雲帶著使命到石頭城見梁武帝，梁武帝像以往一樣善待他，於是他又為武帝出謀劃策，輔佐他成就大業。委任范雲為黃門侍郎，和沈約同心協力輔助武帝。不久改任大司馬諮議參軍，兼任錄事。
武帝受封為梁王，范雲改任侍中。武帝當時納娶齊東昏侯的餘妃，為此很影響政務，范雲曾因此進諫，武帝沒有聽從。後來有一次和王茂一塊兒到武帝的臥室內，范雲又進諫，王茂於是起身下拜說：“范雲的話是對的，明公心裡一定要想著天下大事，不要留戀愛惜一個女人。”武帝默然不語。范雲便奏請武帝讓把餘氏賞給王茂，武帝認為他的意見對而答應瞭他。第二天，賞給范雲、王茂各百萬錢。梁武帝受禪稱帝，在南郊燒柴祭天，范雲以侍中身份同乘一輛車。祭祀結束後，武帝上車對范雲說：“我現如今啊，就像拉著已朽爛的韁繩駕馭六匹馬一樣戰戰兢兢。”范雲回答說：“我也希望陛下一天比一天謹慎。”武帝很贊成他的話，當天就升任他為散騎常侍、吏部尚書。因輔佐武帝成就帝業之功，封為霄城縣侯。
范雲因與武帝有舊日情誼，位置在許多開國大臣之上，他也為朝廷竭誠盡力，隻要是他想到的就一定去辦。武帝也推心置腹地倚仗他，凡是他所奏請之事，大多都準奏。范雲本來比武帝大十三歲，曾有一次陪武帝飲宴，武帝對臨川王蕭宏、鄱陽王蕭恢說：“我和范尚書年輕時就關系親密，相敬如兄弟。現在我作天下之主，兄弟之禮不能再用，你們應替我呼范雲為兄。”二王離座下拜，並和范雲一同乘車回尚書省，當時人們都認為他榮耀之極。武帝曾和范雲談起往事，說：“我從司州回建康時，住在三橋處傢裡，門生王道拉著我的衣裳說：‘聽到外邊的圖讖上說，齊朝天下不長瞭，應該另有王者，您應該謀取盎貴才是。’我當時坐在書齋裡讀書，內心被他的話說動，但外表上不得不表示責怪，要喊人把他捆起來，王道叩頭哀求，不敢再說。如今王道作瞭羽林監、文德殿主管，執掌門禁。”范雲說：“這不過是天意讓王道說出來罷瞭。”武帝又說：“我作百姓時，曾夢見拜從前的兩個妾為六宮嬪妃，如今有瞭天下，這兩個女人已經死瞭，所封的已不是原來的人瞭，我常為此而遺憾。”
那年，范雲以本官身份兼任太子中庶子。第二年，升任尚書右仆射，兼任吏部尚書。不久，因違背詔令用人，罷免吏部尚書職務，仍任右仆射。
范雲生性敦厚和氣，對寡嫂禮數周到，傢裡的事一定要先問嫂嫂再去辦。講求氣節，喜歡做出不俗的行為，專門助人於急難之時。年輕時和領軍長史王田亥友善，范雲的房舍剛蓋好，傢剛剛搬完，王田亥這時死在官署裡，屍體沒地方放，范雲就把它停放在自己的東廂房。把屍體從大門挪進來，還親自給死者口內含玉，按喪禮給死者招魂，當時人們都認為這樣作實在是難得。等到任吏部尚書掌管官吏的任免，武帝對他委以重任，每天滿桌公文、滿屋賓客，而范雲卻能對應如流，從不耽擱誤事，官府文書中的作偽之處，都能明察如神，當時之人都佩服他敏捷明斷。范雲性情率直急躁，缺乏威嚴穩重，對什麼事情褒貶，總顯得言語過激，有些士大夫便因此看不慣他。起先，范雲作郡守有廉潔之名，等官作大瞭，也收受瞭不少賄賂，然而傢無餘財，有收入便隨即分送瞭親友。
梁武帝當初剛受九錫將要稱帝時，范雲忽然得病，過瞭兩天半，才叫醫生徐文伯來診視。文伯說：“要是慢治一個月會好，想快治馬上就能痊愈，可就怕二年後復發不可救治。”范雲著急地說：“朝聞道夕死而可，何況還有二年呢！”於是文伯點火給他艾灸，又給他多蓋上幾層衣服。不一會兒，汗流浹背立時能夠起床。但二年後果然發病而死。武帝為之下淚，當天親往參加殯殮，下詔贈任侍中、衛將軍，禮官奏請謚為“宣”，武帝下詔賜謚為“文”。范雲著有文集三十卷。
范雲有堂兄范縝。