Nacido en la ciudad de Nueva York el 3 de septiembre de 1967, Bernstein comenzó a tocar el piano cuando tenía ocho años, pero cambió a la guitarra cuando tenía trece años y aprendió el instrumento principalmente de oído. Estudió jazz en la Universidad de Rutgers con Ted Dunbar y Kenny Barron.
Mientras estudiaba en la New School de la ciudad de Nueva York, conoció al guitarrista Jim Hall, quien le ofreció un trabajo en el JVC Jazz Festival en 1990. Luego apareció en álbumes con Jesse Davis, Lou Donaldson, Larry Goldings, Michael Hashim, Geoff Keezer y Melvin Rhyne. Lanzó su primer álbum como líder con el pianista Brad Mehldau. También ha trabajado con Jimmy Cobb, Tom Harrell, Diana Krall, Lee Konitz, Eric Alexander, Joshua Redman, Dr. Lonnie Smith y Walt Weiskopf.
En 2008, Bernstein pasó a formar parte de Blue Note 7, un septeto formado ese año en honor al 70 aniversario de Blue Note Records. El grupo grabó el álbum Mosaic.
A lo largo de su carrera, Peter ha tocado con Dr. Lonnie Smith, Nicholas Payton, Lee Konitz, Tom Harrell, Eric Alexander, Chuck Deardorf, Matt Jorgensen, Bill Stewart, Larry Goldings, Dario Chiazzolino, Gilad Hekselman y muchos otros.
Bernstein toca una guitarra Zeidler archtop casi exclusivamente. La guitarra se fabricó en 1981.