鲁道夫·狄塞尔1858年3月出生在法国巴黎。父母是在法国打工的德国工人。法、德交恶后，狄塞尔一家被驱逐回德国。家庭的生活也随之困难起来。但小狄塞尔学习勤奋，中学毕业时以最高分数获得了奖学金，进入墨尼黑工业大学学习。

1879年，年仅21岁的狄塞尔大学毕业。当上了一名冷藏专业工程师。在工作中狄塞尔深感当时的蒸气机效率极低，萌发了设计新型发动机的念头。

1885年，他辞去制冷工程师职务，在巴黎设立了自己的发动机实验室。针对蒸汽机效率低的弱点，狄塞尔专注于开发高效率的内燃机。当时尼古拉斯·奥托发明的点火式内燃机已较成熟，但那时奥托发动机的燃料是煤气，储存、携带均不方便，效率也受到影响。19世纪末，石油产品在欧洲极为罕见，于是狄塞尔决定选用植物油来解决机器的燃料问题（他用于实验的是花生油）。因为植物油点火性能不佳，无法套用奥托内燃机的结构。
 

1892年，34岁的狄赛尔在偶然中受到面粉厂粉尘爆炸的启示，设想吸入气缸的空气高度压缩，使其温度超过燃料的自然温度，再用高压空气将燃料吹入汽缸，使之着火燃烧。因此发明了一种机械装置，并取得了发明专利，这种装置可以将空气压进容器并且和煤粉充分混合直至被压燃，直接为机械提供动力。后来，这种压燃式发动机循环便被称为狄塞尔循环。

  像所有伟大的发明家一样，狄塞尔的前进道路上困难重重。实验证明，植物油燃烧不稳定，成本也太高，难以承担狄塞尔的“重任”。好在当时石油制品在欧洲逐渐普及，狄塞尔选择了本来用于取暖的重馏分燃油——柴油作为机器的燃料。压燃式发动机的结构强度始终是个难题。一次实验中，汽缸上的零件象炮弹碎片一样四处飞散，差点儿造成人员伤亡。实验不顺利，狄塞尔的资金也渐渐耗尽。他不得不回到制冷机工厂谋生。但狄塞尔没有向困难屈服，他利用业余时间继续实验，一步步完善自己的机器。

1893年，狄塞尔终于能够向全世界展示自己的成果……柴油动力压燃式发动机。这种发动机功率大，油耗低，可使用劣质燃油，显示出辉煌的发展前景。不幸的是，作为优秀的工程师，缺乏商业头脑。将尚处于试验期间的这款柴油机投入到柴油机生产的商业冒险中。制造了20台，可是为时不久，用户就纷纷要求退货，令狄塞尔开始陷入经济困境。

1893年狄塞尔找到奥格斯堡机器制造厂作为合伙者--这便是今天MAN公司的前身。这些条件使狄赛尔在奥格斯堡成功地制造出这种新式发动机成为可能，在第一次试验时，压力达到了80大气压，为当时人类第一次记录下来的最高压力，但是立刻发生了爆炸。经过第一次失败后，他改进机器并在1894年继续试验。运转了一分钟，证明这种原动机有强大的发展潜力。1896年柴油机试验成功。

1897年狄塞尔完善了他的发明。他把烧煤粉改为烧液体燃料，把无冷却改为用水冷却，把定温加热改为定压加热 。他在奥格斯堡亲手点燃发动机的那一瞬间，新的科技革命诞生了。这台实验的发动机就是后来狄赛尔发动机的原型，它的输出功率为25hp，四冲程、单缸立式，气缸直径为15cm，活塞冲程为40cm。它加长了燃烧过程前的压缩过程，这是内燃机技术的第二次突破，能将26%的燃料潜能转变成动力。它远远超过当时的蒸汽机和已经发明的奥拓发动机。这台机器被收藏在慕尼黑德意志科技博物馆里。

由于这种发动机功率大，油耗低，并可使用劣质的燃油，显示出辉煌的发展前景。狄塞尔工厂的资助者们也意识到它有发展前途，故从维护自身利益出发，在奥格斯堡厂外另设一试验车间。1897年，在发动机厂投产之际，好几家公司纷纷要求订货。翌年，柴油发动机问世，并在各地展览会上正式展出。

1904年和1912年他两次到美国。尽管狄赛尔在科技上取得了很大成功，他的个人生活却并不幸福。他的发明受到对手的非难和排挤。另外，虽然他在当时可称得上百万富翁，但由于缺乏商业头脑，他玩股票输了很多钱，经济上渐渐陷入了困境。1898年，狄赛尔因为严重的神经虚弱，在慕尼黑附近的疗养所呆了一段时间。

1913年狄塞尔已处于破产的边缘，压力越来越大。 9月29日，仅仅55岁的狄塞尔在乘坐英吉利海峡的渡轮时，据称他是想到伦敦加盟狄赛尔机械制造有限公司的，突然神秘失踪，据认为是投海自杀。也有人推测他是被石油工业的人蓄意谋杀的，据说那时狄赛尔脑子里已经有了用生物汽油制造发动机的想法。狄塞尔没有能够看到他发明的发动机装在汽车上。

1936年，奔驰公司制造出第一台装有狄塞尔发动机的轿车。一直到1950年前后，柴油机才得以在载货汽车上广泛应用。

后人为纪念鲁道夫·狄塞尔的杰出贡献，将柴油发动机称为“狄塞尔发动机”。德国邮政局换专门发行邮票和宣传画，以此向这位不朽的发明家表示敬意。