Anton nació en Cape Town, South Africa, y empezó a tocar la batería a los 4 años. Se fue a Boston cuando tenía 17 y estudió música jazz y clásica en el New England Conservatory, graduándose en 1975. El año siguiente se desplazó a Nueva York y empezó a crear fama como músico freelance. Pronto conoció al Letterman show MD Paul Shaffer en una sesión para Joan Armatrading, pero hasta casi diez años después no tuvo la oportunidad de unirse a Shaffer en el Letterman show.