Pixinguinha era hijo del músico Alfredo da Rocha Vianna, cartero, flautista y poseedor de una gran colección de partituras de choros antiguos. Aprendió música en casa, siendo parte de una familia con varios hermanos músicos, entre ellos China (Otávio Vianna). Fue él quien consiguió el primer trabajo del muchacho, que comenzó a actuar en 1912 en cabarets de Lapa y luego reemplazó al flautista de la orquesta en la sala de proyección del Cine Rio Branco. En los años siguientes, continuó actuando en salas de cine, ranchos de carnaval, clubes nocturnos y en la revista. Pixinguinha formó parte del famoso grupo Caxangá, con Donga y João Pernambuco. A partir de este grupo, se formó el grupo Oito Batutas, muy activo a partir de 1919. En la década de 1930, fue contratado como arreglista por el sello RCA Victor, creando famosos arreglos en la voz de cantantes como Francisco Alves o Mário Reis. Al final de la década, fue reemplazado por Radamés Gnattali.

En la década de 1940, se unió al grupo regional de Benedito Lacerda, tocando el saxofón tenor. Algunas de sus principales obras fueron grabadas en sociedad con el líder del grupo, pero hoy se sabe que Benedito Lacerda no fue el compositor, sino que pagó las sociedades. Cuando compuso Carinhoso, entre 1916 y 1917 y Lamentos en 1928, que son considerados algunos de los choros más famosos, Pixinguinha fue criticado y se consideró que estas composiciones tenían una influencia jazzística inaceptable, mientras que hoy en día pueden considerarse demasiado avanzadas para el era. Además, "Carinhoso" en ese momento no era considerado un choro, sino una polca.  Otras composiciones, entre cientos, son "Rosa", "Vou vive", "Lamentos", "1 x 0", "A ese tiempo" y "Tu sufres porque quieres". Pixinguinha pasó los últimos años de su vida en Ramos, barrio que adoraba, y murió en la iglesia de Nossa Senhora da Paz, en Ipanema, cuando sería padrino en una ceremonia de bautismo. Fue enterrado en el cementerio de Inhaúma. Pixinguinha estudió en el Instituto Nacional de Música (institución incorporada a la Universidad de Brasil, actualmente Universidad Federal de Río de Janeiro).