Nacido en Estocolmo como hijo del compositor Sigurd von Koch (1879-1919), Erland von Koch estudió en el Conservatorio de Estocolmo de 1931 a 1935 y posteriormente superó los exámenes de maestro de capilla avanzado y organista. Entre 1936 y 1938, vivió en Alemania y Francia para proseguir sus estudios en composición con Paul Höffer, de dirección orquestal con Clemens Krauss, y piano con Claudio Arrau. Más tarde, tomó clases privadas con Tor Mann en Suecia.
Además de impartir clases en la Karl Wohlfarts Musikschule de 1939 a 1945, von Koch también pasó los dos últimos años de este período de trabajo como experto de sonido y director de coro para la emisión en la radio. Compuso mucha música para la industria del cine sueco.De 1953 a 1975 fue profesor de armonía en el Conservatorio de Estocolmo, donde fue nombrado profesor en 1968.
Von Koch se convirtió en miembro de la Real Academia Sueca de Música en 1957. Ha recibido numerosos otros honores y premios a nivel nacional e internacional por sus composiciones. Ha escrito seis sinfonías (de las cuales la quinto, Lapponica, está dedicado al pueblo lapón),doce danzas escandinavas, una ópera (Pelle Svanslös), cinco ballets, así como de música para banda (orquesta de viento).
Incluso siendo un nonagenario siguió componiendo y estudiando cada día. Sus obras puede ser descritas como sin complicaciones y su lema siempre fue «mantener la melodía».