山西大学校友会成立于2001年8月，2002年5月经山西省民政厅正式批准登记，是山西省最早经政府审批注册的高校校友会。校友会的最高权利机构是会员代表大会，每届四年，设会长、副会长、秘书长、常务理事及理事。理事会是会员代表大会的执行机构，在闭会期间领导本会开展日常工作，对会员代表大会负责。校友会设常务理事会，在理事会闭会期间行使职权。山西大学校长黄桂田教授现担任校友会第五届理事会会长。

山西大学校友会的宗旨是：继承和发扬母校的优良传统与校风，加强与海内外校友的联系，进一步增进母校与校友之间的情谊与合作，为实施科教兴国战略，服务山西地方经济和社会发展，再创母校新世纪新辉煌而贡献力量。

山西大学校友会目前已经在日本、北京、上海、天津、浙江、福建、广州、深圳、珠海、青岛、西安、大连、济南、省直机关、省内企业、省属高校、省内金融保险、新闻系统、省内各地市、校内各院系建立了校友组织，并建立了母校与各地校友的广泛联系，为校友与母校以及广大校友之间的合作交流提供了良好的平台。