在科学史上，人们总是会对那种无心插柳却一举成功的故事津津乐道，比如伦琴射线、青霉素、宇宙微波背景辐射等等。当然能有上述的成就固然很好，但还有一种同样可敬的人：他们在有生之年不断探索，但成就却不被世人承认，直到多年之后他们的成就才发扬光大。柴油机的发明者鲁道夫·狄赛尔就是这样的一个人。
狄赛尔1858年出生在法国巴黎，就在他读大学期间的1876年，德国人奥托研制成功了第一台4冲程煤气发动机，这是法国技师罗夏内燃机理论第一次得到实际运用。这一成就鼓舞了当时从事机械动力研究的许多工程师，这其中就包括对机器动力十分有兴趣的年轻人狄赛尔。
1769年，英国人詹姆斯·瓦特对原始蒸汽机作了一系列的重大改进，取得了蒸汽机的发明专利。至19世纪末，蒸汽机以在工业上得到广泛的应用。但是，狄赛尔却看到了蒸汽机的笨重、低效率等缺陷，并开始研制高效率的内燃机。经过精心的研究，他终于在1892年首次提出压缩点火方式内燃机的原始设计。
狄赛尔没有料到，他的想法实现起来远远比发明点火系统复杂的多，他所遇到的第一个就是燃料问题。狄赛尔创造性把他的目标指向了植物油。经过一系列试验，对于植物油的尝试也失败了，但他是第一个把植物油料引入内燃机的人，因而近现代鼓吹“绿色燃料”者都把狄赛尔尊为鼻祖。
最终燃料选择锁定在了石油裂解产物中一直未被重视的柴油上。柴油稳定的特性适合于压燃式内燃机，在压缩比非常高的情况下柴油也不会出现爆震，这正是狄赛尔所需要的。经过近20年的潜心研究，狄赛尔成功的制造出了世界上第一台试验柴油机(缸径15厘米、行程40厘米)。实验室首先由工厂总传动寄拖动，等运转稳定后放入燃料，柴油机顿时发出震耳欲聋的轰轰声转动起来。1892年2月27日，狄赛尔取得了此项技术的专利。1896年，狄赛尔有制造出第二台试验柴油机，到次年进行试验，其效率达到26％，这便是世界上第一台等压加热的柴油机。
柴油机的最大特点是省油，热效率高，但狄赛尔最初试制的柴油机却很不稳定，狄赛尔却迫不及待的把它投入了商业生产，结果就是他急于推向市场的20台柴油机由于技术不过关，纷纷遭到了退货。没有了资金来源又负债累累，使得狄赛尔的晚年陷入了极端贫困。1913年10月29日，55岁的狄赛尔独自一人呆站在横渡英吉利海峡的轮船甲板上，被巨浪卷入了大海(多数历史学家认为狄赛尔是跳海自尽的)。为了纪念狄赛尔，人们把柴油发动机命名为Diesel。
客观地讲，狄赛尔的柴油机确实存在着不少缺陷，其中最大的问题就是重量。由于柴油机汽缸压力比汽油机高很多，因而柴油机的缸体要比汽油机粗壮许多，同时早期的柴油机为压缩空气使用的空气压缩机质量也非常巨大，这就使得柴油机整体上十分笨重，极不适应当时骨架还很娇小的汽车。1924年，美国的康明斯公司正式采用了泵喷油器，这一发明有效地降低了柴油机的质量，同年在柏林汽车展览上MAN公司展示了一台装备柴油机的卡车，这是第一台装有柴油机的汽车。1936年，奔驰公司生产出了第一台柴油机轿车260D，这时距狄赛尔去世已经23年。
作为柴油机行业从业者，如果不知道鲁道夫·狄赛尔(Rudolf Diesel)是谁，那肯定说不过去。鲁道夫·狄赛尔(Rudolf Diesel)是柴油机的发明人，被誉为柴油机之父。柴油机英文名称Diesel，就是从他的名字而来的。第一次世界大战时，他的柴油机成为各国潜艇的主要动力。如今，他发明的柴油机，在汽车、船舶等整个工业领域都得到越来越广泛的发展。
18世纪初，英国资本主义生产力的发展促进了1776年瓦特蒸汽机的发明，并由此开始了产业革命推动了生产力的发展。随着生产力的发展，这种热机由于热效率低以及过于笨重而又不适应社会生产力的发展对新型动力机械的需求增加。1876年，德国人奥托（N. A.Otto）第一次提出了四冲程循环（即进气、压缩、膨胀、排气）原理并发明了电点火的四冲程煤气机。该煤气机运转平稳，热效率可高达14%，在当时曾得到普遍使用。之后，在1880年一些工程师，如英国的D.Clerk和J. Robson以及德国人Karl Benz等成功地开发了二冲程内燃机。
1892年德国工程师R. Diesel申请了压缩发火内燃机专利，并于1897年在MAN公司制成第一台实际使用的柴油机（压燃式、空气喷射、定压燃烧）。因采用较大的压缩比其效率比煤气机有显著提高。1904年柴油机首次用于船舶推进装置（294 kW，260 r/min）。从此在船舶领域里开始了与蒸汽推进装置的竞争局面。在此后40多年中，柴油机在自身逐步完善中有了很大发展，如1927年在柴油机上正式使用了由R. Bosch发明的喷油泵（回油孔式）－喷油器喷射系统，代替了原需用 7 MPa压缩空气喷油的空气喷射系统，实现了混合燃烧。1905年，瑞士人Alfred Buechi提出了涡轮增压的设想，1926年MAN公司制造了第一台船用废气涡轮增压柴油机，当时由于增压器制造水平的限制此项技术未能迅速推广。但总的来看在与蒸汽推进装置竞争中无突破性进展，在船舶使用中蒸汽推进装置仍占据领先地位。
从第二次世界大战到20世纪50年代中后期，由于社会生产力的迅速发展对船舶推进装置提出了新的要求。柴油机在此期间完成了大缸径、焊接结构、废气涡轮增压以及使用劣质燃油等四项重大技术成果并逐步发展了船用低速柴油机系列。此期间在国外大致有八种船用低速柴油机型号（由八大船用柴油机制造厂生产）。在这些技术成就中、废气涡轮增压技术在船用二冲程柴油机上的成功使用是船用低速柴油机发展中的重要里程碑。国外称这一时期是船用低速柴油机的第一次飞跃，其技术特征是废气涡轮增压技术的普及。至此，在与蒸汽动力装置的竞争中柴油机逐渐取得了领先地位。
从20世纪60年代到70年代船用低速柴油机进入了黄金时代，它在船舶动力装置中取得了明显的压倒优势。各船用柴油机厂之间开始进行调整、合并、淘汰。柴油机技术趋于完善。此期间的船用低速柴油机的性能参数大致范围为缸径D=600～1050mm，行程S=1000～1800mm，单缸有效功率达3000kW（单机组达36000kW），油耗率约为0.21kg/kWh（有效热效率）。此期间内，船用低速柴油机发展的特点按顺序大致为增大机组功率、提高可靠性和提高经济性。
20世纪80年代柴油机的电子控制技术已有了很大发展，除可监视柴油机的运行工况外，还可保持柴油机各运行参数的最佳值以求得柴油机功率、燃油消耗率和其他有关性能的最佳平衡，并由此发展了对柴油机的故障诊断、未来趋势预报等技术，把柴油机的管理技术提高到一个崭新的水平。2000年，Wärtsila瑞士公司成功地推出了全电子控制的智能型柴油机并开始装船使用。目前低速机的冲程可达3150mm（RTA84），单缸功率可达5000kW，单机可达80080kW（14RTA96）。
在船用低速二冲程柴油机发展的同时，大功率四冲程中速柴油机自 20世纪50年代开始也得到了稳步发展，至今已经历了四代机型。它的最大优点是重量轻、尺寸小，可选用最佳的螺旋桨转速。在工作可靠性、使用寿命、经济性及对劣质燃油的适应性方面均有明显改进，基本上达到与低速机相近的水平。近年建造的2000吨以上船舶中使用中速机做主机者占25%左右。
一般对船用主机来讲，经济性、可靠性和使用寿命是第一位的，重量和尺寸是第二位的。据此低速二冲程柴油机因其效率高、功率大、工作可靠、寿命长、可燃用劣质油以及转速低（通常为100r/min左右最低可达56 r/min）等优点适于作船舶主机使用。大功率四冲程中速柴油机因其尺寸与重量小较适于作滚装船和集装箱船的主机。船舶发电柴油机因其发电机要求功率不大、转速较高以及结构简单，因而均采用中、高速四冲程筒形活塞式柴油机。