衛(wèi)玠五歲時神態(tài)異于常人,他的祖父衛(wèi)瓘說衛(wèi)玠與眾不同,只是自己年紀大了,看不到他長大成人的那一天。衛(wèi)玠年少時乘坐羊車到街市去,看到他的人都以為是玉人,人們都去觀看他。驃騎將軍王濟是衛(wèi)玠的舅舅,英俊豪爽有風(fēng)度姿容,每次見到衛(wèi)玠,就嘆息說珠玉在身旁,就覺得自己形貌丑陋。又曾對別人說,與衛(wèi)玠一同出游,就像有光亮的珠子在旁邊,光彩照人。
衛(wèi)玠長大后,好談玄理。其后多病體弱,他的母親王氏常不讓他多說話。遇到有好日子,親友有時請他說幾句,沒有不贊嘆的,認為他說到了精微之處?,樞叭送醭斡忻?,很少推崇別人,每當(dāng)聽到衛(wèi)玠的言論,就嘆息傾倒。為此當(dāng)時的人說:“衛(wèi)玠談道,王澄傾倒?!蓖醭闻c王玄、王濟都有盛名,都在衛(wèi)玠之下,世人說:“王家三子,不如衛(wèi)家一兒”。衛(wèi)玠的岳父樂廣全國聞名,評論的人認為“岳父像冰一般清明,女婿像玉一樣光潤”。
后來,朝廷多次征召衛(wèi)玠入朝為官,征召的命令到來,衛(wèi)玠都不赴任。很久以后,擔(dān)任太傅西閣祭酒、太子洗馬。衛(wèi)玠的兄長衛(wèi)璪擔(dān)任散騎侍郎,在宮內(nèi)侍奉晉懷帝司馬熾。
永嘉四年(310年),當(dāng)時中原戰(zhàn)亂漸起,衛(wèi)玠因天下大亂,打算搬家到南方,他母親王氏說:"我不能舍下仲寶(衛(wèi)璪字)離開!“衛(wèi)玠把道理講得深透,為了門戶大計,王氏流著淚答應(yīng)了他。衛(wèi)玠臨別前,對兄長衛(wèi)璪說:“恭敬父、師、君的道義,是人們所看重的。如今可以說是獻身事君,兄長自勉?!庇谑亲o送母親搬到江夏(今湖北武漢)居住。
衛(wèi)玠的妻子樂氏很早去世,征南將軍山簡見到衛(wèi)玠,很是器重欽佩他。山簡說:“過去戴叔鸞嫁女,只嫁給賢人,不問地位貴賤,何況衛(wèi)氏是權(quán)貴門戶有名的人呢!”于是把女兒嫁給衛(wèi)玠。接著衛(wèi)玠進入豫章(今江西南昌)。當(dāng)時大將軍王敦鎮(zhèn)守豫章,長史謝鯤先前就一直尊重衛(wèi)玠,相見后很高興,交談了一整天。王敦對謝鯤說:“過去王弼在朝中的談吐像金聲,此人在江表的言論如玉振,精微言論,斷絕了又續(xù)接。沒想到永嘉末年,又聽到正始年間的聲音,何晏如果還在,一定傾倒?!毙l(wèi)玠經(jīng)常認為人無完人,可以寬??;不是故意冒犯,可以按情理處理,因而終身看不到他喜怒的容顏。
衛(wèi)玠因王敦豪爽不合群,好居人上,恐怕不是國家的忠臣,于是謀求到建鄴(今江蘇南京)。京師的人聽說其姿容,看他的人擠成人墻。衛(wèi)玠因勞累成疾而加重病情,于永嘉六年(312年)去世,時年二十七歲,當(dāng)時的人都說衛(wèi)玠是被看死的。衛(wèi)玠死后葬在南昌。衛(wèi)玠死時謝鯤哭他很悲痛,有人問他為何如此悲傷,謝鯤回答說棟梁斷了,因而悲哀。咸和年間(326年―334年),衛(wèi)玠改葬于江寧(今南京)。丞相王導(dǎo)告論說:“衛(wèi)洗馬確實該改葬。此人是風(fēng)流名士,海內(nèi)仰望,可以準(zhǔn)備薄祭,來勉勵舊日好友。”后來劉惔、謝尚共同議論朝中人士,有人問杜乂可以和衛(wèi)玠相比嗎?謝尚說他們二人怎能相比,他們之間的差距容得下幾個人。劉恢又說杜乂是貌清,衛(wèi)玠是神清。衛(wèi)玠就是這樣受到有識之士的器重。當(dāng)時中興名士,只有王承和衛(wèi)玠為當(dāng)時第一。