柴油机因为有一套使空气加压的装置，而且加的压力又比较大，所以比起一般内燃机来，要笨重一些。另外，因为它要加很大的压力，所以噪声比较大。要加压得需一定的时间，所以它起动速度也比较慢。这些都是柴油机的缺点。
柴油机这些缺点，和它用油便宜的优点相比，在许多地方用起来还是合算的。比如说，用柴油机来作火车头就较理想。因为火车本身就很宠大，笨一点没关系。再说它再笨也比带着大锅炉的蒸汽机车轻巧呀！火车在很宽敞的火车站上起动，不比在热闹的马路上，起动速度慢一点没有关系，噪声大点也影响不大。
柴油机由于不用水作介质，不用使水蒸发，它直接烧油汽化而工作，所以热效率高。一般内燃机车的总效率接近30%，这要比蒸汽机车大3倍。它热效率高，所以消耗燃料较少，加足一次油可以走行500～800千米，所以可以把油直接存在车上，不必到车站上去加油。柴油机不必消耗大量的水，所以可以在沙漠和干旱缺水地区工作，这样就为我国边远地区开通火车提供方便。柴油机也是一种内燃机，燃料在汽缸内燃烧，所以司机室内比较清洁干净。
柴油机不只用在火车上，现在许多机器都相中了它。比如轮船、拖拉机、坦克、军舰、抽水机、小型发电机等。柴油这种曾被人称作石油兄弟中的“丑小鸭”，已变成“白天鹅”了，它在铁路上和江河湖海上，以及许多岗位上大都在大显身手。