1996年，随着中国排球联赛的开展，上海男排改制成俱乐部队。
1999-2000赛季，上海队首次问鼎全国男排联赛冠军。当时上海队在决赛中的对手是拥有卢卫中和施海荣等名将的江苏男排。当时的总决赛采用四场三胜制，上海男排在三场比赛中以2-1占先。尽管沪苏两队净胜局相同使得双方都承受了巨大的压力，但是上海队防守能力更胜一筹，王烨、徐文斐、吕宁馨等人表现抢眼帮助他们以3-1再胜对手首次荣膺联赛冠军。虽然当时的上海队并不具有绝对的实力，但是他们把握机会能力较强，此前的半决赛他们就终结了卫冕冠军四川队对中国排坛连续三届联赛的垄断。
在03-04赛季的男排联赛总决赛中，上海队凭借“双子星”沈琼、汤淼以及老将徐文斐的出色发挥以3-1力挫曾经在上个赛季让他们冲金未果的浙江男排。时隔四年后再次在联赛中夺魁让上海队开启了“九连冠”霸业的序幕。
04-05赛季上海队遭遇了辽宁队的有力挑战，他们在首回合落败、次回合一度以0-2落后的情况下实现大逆转，临危授命的老二传王烨表现不俗成为本队卫冕成功的大功臣。
05-06赛季上海队与江苏队在决赛中遭遇，攻击力更胜一筹的上海队在客场和主场分别以3-2和3-0获胜荣膺“三连冠”，他们也成为继四川队之后第二支在联赛中获得“三连冠”殊荣的球队。
06-07赛季上海队依靠沈琼、汤淼等人的稳定发挥在总决赛中先后以3-1和3-0击败辽宁队获得“四连冠”。整个赛季15胜1负，主场8战全胜的骄人战绩显示了该队无人可敌的霸气。
07-08赛季因为汤淼的受伤让上海队不得不变阵，方颖超先后担纲接应和主攻的重任，新人李春晖也崭露头角。上海队第三次在总决赛中遭遇辽宁队，技高一筹的他们在总决赛四场较量中以3-1胜出斩获“五连冠”。常规赛18场不败、主场比赛未失一局的战绩再次证明了上海队的实力。
08-09赛季上海队在常规赛中接连受挫于辽宁和江苏，一度跌落到积分榜第八位。好在名帅沈富麟重新出山后让球队精神面貌获得极大改观，上海队在总决赛中成功击败河南队荣膺“六连冠”。
09-10赛季上海队虽然在常规赛中也屡次遭遇挑战，但是他们在总决赛中把握机会能力更强，先后以3-1和3-2战胜八一队连续第七次登顶成功。
10-11赛季上海男排在得到了强力赞助的情况下，全队的精神面貌得到了显著提升，常规赛获得第一后，顺利杀入决赛，在决赛中零封江苏队（3:0,3:0）获得最后冠军。
11-12赛季，上海男排在两阶段的小组赛中获得常规赛第一，并且在半决赛和决赛中分别2:0大比分横扫北京和八一队，小将詹国军在本届联赛中冒头。上海男排由此 成就十冠王伟业。
12-13赛季，上海男排遭遇前所未有困难，常规赛一度落后，最后时刻才得以晋级冠军组淘汰赛，半决赛中负于八一（当时出现罕见的排球比赛中大分小分相同，最后比较联赛常规赛成绩决出晋级球队的情况，这也是03年来上海男排第一次未能晋级联赛决赛）。沈琼，崔晓栋，何炯，杨建斌等黄金一代退役谢幕。
13-14赛季，上海男排第一次引进外援，包括意大利国家队队长萨瓦尼，塞尔维亚雅尼奇和美国国家队大卫李，上海队在常规赛保持全胜，但是在决赛中由于多种原因，包括了雅尼奇表现远不如预期，年轻主攻一传不稳，以及客场遭遇多次误判等因素，全队心态失衡，最后一场关键比赛负于北京，丢掉几乎到手的冠军。联赛结束后，主教练吕宁馨去职。此外本年度联赛初期突然设立外援上场人次数量限制也大大影响了球队的排兵。
14-15赛季，上海男排由前队长沈琼出任主教练，也成为排球联赛历史上最年轻的主教练。球队除了保留萨瓦尼外，还引入了塞尔维亚国手主攻“大胡子”尼古拉，本届联赛上海队启用了希望之星副攻张哲嘉。在整个联赛过程中，除了外援发挥不俗外，接应戴卿尧和张哲嘉均发挥出色，上海男排先是夺取了常规赛冠军，随后半决赛完胜老对手北京队，最后在决赛中3:1大比分击败了山东男排，夺取联赛的第十一个冠军，重新称霸。
15-16赛季，上海男排的天才球员张哲嘉由于伤病原因（一说为有遗传性疾病）未能露面，上海队保留了萨瓦尼外，引入了另外一名美国外援斯托克。上海队在联赛初期遭遇严重伤病问题，多名主力状态低迷。在第一和第二阶段的联赛中落后引入多名强援的北京队。联赛中期，上海队替换外援，由意大利国手撒比取代了表现不佳的斯托克打接应。半决赛中，上海队苦战3：1击败山东队。经过一段休整期后，在联赛决赛中，上海队全面爆发出惊人能力，尤其是伤员回归和撒比融入球队为全队带来绝大提升，决赛中上海队针对性的战术有效抑制了北京队澳大利亚国手接应埃德加的发挥，北京队因而完全陷入被动，上海队以3：0（3:1,3:1,3:0）的大比分横扫北京，从而夺取第十二个联赛冠军，同时也成为联赛历史上第一支两度实现卫冕的球队（之前9连贯）。
此外，上海男排俱乐部的球员作为主力代表上海参加了2005和2009年两届全运会，均夺取冠军，使得上海在历届全运会上男排冠军次数达到3次，高居各地之首。
上海男排参加了多次亚俱杯的比赛，由于亚俱杯举办时间同国家队集训时间冲突等原因，一直未能派出全部主力参赛，最好成绩是2012年上海亚俱杯，上海队获得亚军（半决赛3:1哈萨克斯坦阿拉木图，决赛1：3卡塔尔阿尔阿拉比）。
