La familia del conde Losy era de origen suizo (Poschiavo en el cantón de Graubünden). Su padre, Johann Anton Losy (1600-1682), quizás nació en Purz, en el cantón suizo de los Grisones. En 1627 se mudó a Bohemia y compró una casa en Praga. Losy senior tenía una serie de intereses comerciales y fue nombrado Consejero de Hacienda y Diputado del Consejo de la Sal, la Cerveza y el Vino por la Sala de la Corte de Bohemia. Como resultado de ayudar a defender Praga contra el asalto de las tropas suecas en 1648, Losy senior fue ennoblecido, convirtiéndose en baron en 1648 y conde von Losinthal en 1655. También adquirió la finca y el castillo de Steken (distrito de Strakonitz, sur de Bohemia). en 1638.

Johann Anton Losy nació en Steken alrededor de 1650. Tenía un hermano gemelo menor (Johann Baptist) y también tenía cuatro hermanas. El interés de Losy por la música fue fomentado por su maestro de laúd y ayuda de cámara Achazius Kazimir Huelse, quien parece haber sido un amigo de toda la vida. Losy asistió a la Universidad Charles-Ferdinand en Praga, obtuvo su bachillerato en 1667 y se graduó como Doctor en Filosofía el 15 de agosto de 1668. Luego parece haber viajado a varios países europeos, incluida Italia. Su profundo conocimiento del estilo de laúd francés indica que pudo haber estado en París y conocido laudistas como Mouton y Dufault. Tras la muerte de su padre el 22 de julio de 1682 heredó su título, convirtiéndose en el segundo Conde Losy. También heredó parte de las propiedades familiares y un nombramiento imperial como Consejero del Reino de Bohemia. Su puesto oficial significaba que, mientras vivía en Praga, tenía que viajar con frecuencia a la corte imperial de Viena. Al año siguiente, murió su hermano gemelo. Como aristócrata, se esperaba que las actividades musicales del Conde Losy se mantuvieran de forma amateur. Sin embargo, parece haberse ganado la admiración de varios músicos profesionales por su interpretación y composición del laúd.

En 1697 participó en un concurso musical con el cantor de Leipzig Johann Kuhnau. Mientras trabajaba en Praga en 1715, Gottfried Heinrich Stölzel conoció al Conde Losy, quien "tocaba el laúd tanto como uno que hace de él una profesión" y también tocaba el violín.  No hay evidencia de que tocara otros instrumentos, aunque hay una fuente bastante rica de transcripciones de sus composiciones para laúd para otros instrumentos disponibles (guitarra barroca, teclado, angélique, mandora y violín). A pesar de la destacada reputación de Losy como intérprete e improvisador del laúd, solo una de sus obras se publicó en vida. Se trataba del Courante Extra-ordinaire, que formaba parte de la colección Cabinet der Lauten, publicada en 1695 por Philippe Franz Lasage de Richée. Tras la muerte de Losy en Praga en 1721, el gran laudista alemán Sylvius Leopold Weiss rindió homenaje a su colega dedicando a su memoria la obra Tombeau sur la mort de Monseigneur Comte de Logi.