1989年入选国青队；1991年破格入选国家乒乓球队。中国第一位世乒赛、世界杯和奥运会男单"大满贯"得主，多次获得男子单打冠军并和孔令辉一起获得男子双打冠军，与邬娜一起获得过混合双打冠军，作为主力队员多次与队友一起获得男子团体冠军，得到过乒乓球运动员所能拿到的所有冠军。是首位在正式比赛中采取直拍横打技术并取得成功的乒乓球手。2003年，正式退役，随后担任中国乒乓球男队主教练。2013年，正式担任中国乒乓球队总教练。

2018年12月1日原乒协副主席、第九届委员会换届筹备工作小组组长刘国梁当选新一届乒协主席。