毛瑟系列步枪的军旅生涯要从1898年德军采用其为陆军的制式装备开始算起。这以后，7.9mm口径的毛瑟步枪装备了德军达半个世纪之久。1914年第一次世界大战爆发，毛瑟98式步枪成为德军的标准装备，在这期间装备的毛瑟步枪改进型有98a型。战后，尽管国防军想要一种更为短小轻便的步枪，新型的98b卡宾枪的长度仍与98式一样，并且只进行了一些细小的改动。到二十世纪二十年代，98b的长度终于有了缩减。这种缩短了140毫米并且在其他方面进行了一些改进的步枪，是基于一种名为“标准机型”的毛瑟商业设计，被德国军队采用后以98k卡宾枪命名之。尽管它已经缩短了，但是其长度对于卡宾枪来说还是过长了。98k于1935年正式投产，并且作为德国军队的标准装备在整个第二次世界大战期间服役。在战争中，工厂制造出了极为大量的98k步枪，据统计一共有一千四百万支之多。它们以实际效果证明，98k步枪是一种可靠而精准的武器。
几乎每一个在第二次世界大战中为第三帝国效命的德军士兵都被训练使用这种步枪。 事实上，对许多人来说，这是他们在整个战争中使用过的唯一一种武器。 随着战争的进行，毛瑟步枪被赋予更广泛的用途。例如当加装ZF41或 ZF42瞄准镜之后，Kar 98k步枪就可以作为狙击步枪使用。对有经验的狙击手来说，使用配有4倍瞄准镜的毛瑟Kar 98K狙击枪可射杀400米处的目标，若选择6倍瞄准镜则可射杀1000米处的目标。战争期间，共有129468只毛瑟Kar 98K狙击枪装备部队。活跃在前线的德军狙击手给盟军造成了重大的损失。 同时，在枪口加装榴弹发射装置后98K步枪还可以发射高爆榴弹与穿甲榴弹。这一工作由步枪班中受过专门训练的士兵完成。 德军士兵经常称赞他们的98k步枪十分精确。整个98式步枪系列都靠一种简单的运作来保证其精确性，尽管以牺牲射击速度为代价，而英国的李恩菲尔德步枪在一分钟内能射击更多次。98k的V型照门能够瞄准100至2000米的范围。第二次世界大战开始时，参战的德国国防军就已经使用了二百七十六万九千五百三十三支98k步枪。此后直到战争结束，又有七百五十四万零五十八支交付军队（包括了十二万支狙击型）。空军获得了九十二万五千九百八十四支，海军则得到十九万一千二百五十支。党卫军也使用了六万二千六百支。平均每支步枪需要70德国马克。1944年当年制造了200多万支Kar 98k，年产量达到历史高峰。98k在生产的十年之中经历了数次改进。众多的改进目的在于缩减制造成本。但是因为原料不足，时间紧迫以及技术缺乏，随着战争的进行，这种步枪在制作上工艺越来越简陋。1944年之后生产的毛瑟步枪质量每况愈下。例如，昂贵的木制枪托以及其他木料部分被非常薄的木头代替，枪托底部改为罩杯式冲压组件，前护箍由切削件改为点焊，弹仓底部及护弓也改成了钢制冲压件。而在第三帝国垮台前夕生产的一些Kar 98K步枪甚至连刺刀坐都省略了。
尽管它性能与战绩都十分优异，但是很快人们就认识到这种旋转后拉枪机的步枪已经过时了。主要的问题在于其射速太低。战争初期，面对波兰及其他欧洲国家微弱的抵抗，毛瑟步枪的射速已经足以应付。加之战术使用得当，更是显得绰绰有余。即使面对苏联军队，由于当时苏军使用的莫辛纳甘步枪也是手动发射，毛瑟步枪也是不吃亏。但是战局在发展，同盟国凭借其强大的经济与技术势力不断更新军事装备。苏军很快将SVT40半自动步枪投入使用。德军往往在射速上吃了亏。面对美军使用的M1伽兰德步枪时同样面临相同的问题。另外一个问题出现在狙击战中。在与苏军进行的狙击战中，使用毛瑟式步枪的德军士兵在射击完成后必须手动上弹，拉动枪栓发出的声音在寂静的林中格外清晰，苏军士兵很容易就能确定德军士兵的位置，而苏军使用SVT的狙击型，不用手动上弹。这样德军就吃了大亏。
德国人开始寻求一种能够提供更强大火力，同时更经济的步枪来取代毛瑟98K。毛瑟公司与沃尔特公司同时推出了G41型半自动步枪，但毛瑟公司的产品在竞争中失利。沃尔特公司后来继续推出G43型半自动步枪，以取代毛瑟98K成为军队的标准装备。战争末期，Stg44突击步枪出现，德军在火力上有了很大的提高。但是由于战争已经接近尾声，德国已经面临物资的缺乏。同时由于盟军的轰炸导致许多兵工厂丧失了生产能力，使得上述武器的生产一直没能跟上军队的需求。就这样，毛瑟步枪一直处于生产状态，直到二战的结束。
