Junto a su hermano, el saxofonista Maceo Parker, fue miembro de la habitual formación de James Brown en los años 60 y 70.
Parker fue el batería principal de muchos de los éxitos de Brown en los años 60 y 70, incluidos Out of Sight, Papa’s Got A Brand New Bag, I Got You (I Feel Good) y Get Up Offa That Thing. Melvin y Maceo Parker contribuyeron a varios de los éxitos de Brown, aunque la primera carrera de Melvin con la banda terminó a mediados de los 60 cuando fue reclutado para el ejército.
A fines de la década de 1960, Brown pasó de un continuo de formas y estilos de blues y gospel a un enfoque profundamente «africanizado» de la creación musical, enfatizando los ritmos entrelazados que influyeron en el desarrollo de la música funk. Marvel regresó en 1969 y apareció en el clásico álbum Sex Machine de Brown.
