Quase de certeza que alguem vai conseguir explicar melhor que eu, mas de uma forma muito sucinta, aqui vai.
Os carros a diesel só usam faísca (das velas) para arrancar o motor, os carros a gasolina usam em todos os ciclos, ou seja, a explosão nos carros a gasolina dá-se por ignição pela faísca, e nos diesel dá-se pela compressão da mistura do diesel com o ar (dentro da câmara de combustão, o pistão comprime o ar e o combustível, isto após o fecho das válvulas). Repara que se chegares um fósforo a um bocado de diesel dificilmente ele pega fogo. Isto permite que a mistura seja mais perfeita, ou seja, a energia retirada do combustivel seja mais bem aproveitada, logo, menos gasto de combustível. Também é por isto que os motores a diesel são, geralmente mais pesados, porque têm que aguentar pressões superiores, são feitos de materiais mais resistentes.
Isto dito assim de uma forma muito simples.