Heino vanemad olid mõlemad musikaalsed, laulsid koorides. Koos õega tehti muusikat ka pereansamblis. Heinol sai musitseerimine alguse lõõtspillil, edasi klaveril ja viiulil. Keeruliste aegade keerises päästis muusika Heino Kaljuste vangilaagripõlvest. Sõjavangina tööpataljonis asutas ta orkestri ja sattus Kohtla-Järvele muusikaõpetajaks koos sarnase saatusega Valdo Pandiga. Sunnitud, samas päästvas õpetajaametis avaldus Heino Kaljuste erakordne pedagoogianne.