油橄榄种子萌发的初生根是主根，主根上分生出的根叫侧根。主根生长快，苗木5-10厘米高，主根深入土中可达15-24厘米。随着植株年龄的增加，主根生长逐渐缓慢，茎部逐渐膨大，形成根包，并迅速萌发侧根组成庞大的根团。随之取代主根。油橄榄的根系具有很强的更新能力，老根枯死后，新根很快形成。油橄榄根系穿透能力较弱，根好气，忌水湿，在板结粘重和排水不良以及地下水位在150厘米以上的土壤上种植，根系发育不好，植株生长很差。油橄榄树干基部与根系连结处，常生有“树瘤”，又称“营养包”。其成因，是树干与根系连结地方的输导管因扭结，造成树液流动减缓，致使该处细胞形成层营养积累过盛，而且又不断扩展使薄壁组织扭曲变形所致。这种“树瘤”不影响油橄榄树的正常生长，还可用于繁殖油橄榄苗木之用。