El origen del olivo silvestre se sitúa en Asia Menor, donde es abundantísimo, formando verdaderos bosques. Parece haberse extendido desde Siria hacia Grecia, a través de Anatolia (De Candolle, 1883), aunque otras hipótesis lo sitúan en el Bajo Egipto, en Nubia, en Etiopía, en las montañas del Atlas o en determinadas regiones de Europa. Por eso, Caruso lo considera autóctono de toda la Cuenca Mediterránea y ubica el origen del olivo cultivado en Asia Menor hace unos seis milenios. De  los pueblos antiguos de la zona, únicamente los asirios y los babilonios no lo conocían.

Aceptando una zona originaria que se extiende desde el sur del Cáucaso hasta la altiplanicie del Irán y la costa mediterránea de Siria y Palestina (Acerbo), el cultivo del olivo alcanzó un notable desarrollo en estas dos últimas regiones para expandirse por la isla de Chipre hacia Anatolia o por la isla de Creta hacia Egipto.

A partir del s. XVI a.C. los fenicios difunden el olivo por las islas griegas y en los siglos XIV a XII a.C. por la Península Helénica, donde se incrementa su cultivo, llegando a alcanzar gran importancia en el s. IV a.C. cuando Solón promulgó decretos sobre plantación de olivos.

Desde el siglo VI a.C. se propagó por toda la Cuenca del Mediterráneo pasando a Trípoli, a Túnez, a la isla de Sicilia, y desde allí a la Italia Meridional. Sin embargo, Presta sostiene que, en Italia, el olivo se remonta a tres siglos antes de la caída de Troya (1200 años a.C.). Otro analista romano (Penestrella) defiende la tradición de que el primer olivo importado a Italia lo fue durante el reinado de Lucio Tarquino Prisco el Viejo (616 a 578 a.C.), posiblemente procedente de Trípoli o de Gabes (Túnez). El cultivo se extendió de sur a norte, desde Calabria a Liguria. Cuando los romanos llegaron al norte de África, los bereberes sabían injertar acebuches, extendiendo un verdadero cultivo por todos los territorios que ocupaban.

Los romanos prosiguen la expansión del olivo por los países costeros del Mediterráneo como arma pacífica en sus conquistas para el asentamiento de poblaciones. En Marsella es introducido unos 600 años a.C. y desde allí a toda la Galia. En Cerdeña aparece en la época romana mientras en Córcega se dice que lo llevaron los genoveses después de la caída del Imperio Romano.

El olivo, que se había introducido en España durante la dominación marítima de los fenicios (1050 a.C.), no alcanzó notable desarrollo hasta la llegada de Escipión (212 a.C.) y la dominación de Roma (45 a.C.). Después de la tercera guerra púnica, el olivar ocupaba una importante extensión en la Bética y se expandió hacia el centro y el litoral mediterráneo de la Península Ibérica. Los árabes introdujeron sus variedades en el sur de España e influyeron en la difusión del cultivo hasta el punto de que los vocablos castellanos de aceituna, aceite o acebuche o los términos en portugués para aceituna (azeitona) y aceite de oliva (azeite) tienen raíz árabe.

El cultivo del olivo salta fuera de la cuenca mediterránea con el descubrimiento de América (1492). Desde Sevilla pasan los primeros olivos a las Antillas y después al continente. En 1560 hay olivares en producción en México, después en Perú, en California, en Chile o en Argentina, donde todavía vive una de las plantas llevadas en la conquista, el viejo olivo de Arauco.

En tiempos más modernos el olivo ha continuado su expansión más allá del Mediterráneo, cultivándose hoy en lugares tan alejados de su origen como en la Región Sudafricana, en Australia, en Japón o en China. Podría decirse, con Duhamel: "allá donde el olivo renuncia, termina el Mediterráneo", para ampliarse después, "allí donde el sol lo permite, el olivo se implanta y gana terreno".