A、大肠杆菌和酵母菌都有核物质,A错误;B、大肠杆菌和酵母菌都有核糖体,B错误;C、大肠杆菌和酵母菌都含有细胞壁,C错误;D、大肠杆菌是原核生物,而酵母菌是真核生物,两者最大的区别是大肠杆菌无核膜,D正确.故选:D.