Figlio di un farmacista, che lo avrebbe voluto medico, il giovane Giordano venne invece iscritto al Real Collegio napoletano di San Pietro a Majella, su consiglio di un amico di famiglia che ne aveva intuito le attitudini musicali. Allievo prediletto dell'illustre maestro Paolo Serrao, nel 1888, prima ancora di completare i corsi, partecipò al Concorso Sonzogno per opere in un atto (quello che avrebbe rivelato Cavalleria rusticana di Mascagni) dove la sua Marina si classificò sesta e suscitò l’interesse dell’editore Edoardo Sonzogno, il quale gli commissionò l’opera Mala vita, tratta dal dramma omonimo di Salvatore Di Giacomo.
La grande affermazione arrivò nel 1896 con il clamoroso successo di pubblico e critica dell'Andrea Chénier al Teatro alla Scala.
Lo stesso anno Giordano sposò Olga Spatz, figlia del proprietario del Grand Hotel et de Milan, prestigioso albergo nel quale Giuseppe Verdi aveva la sua residenza milanese. Il vecchio Maestro prese a ben volere i coniugi Giordano, e fu insolitamente prodigo di consigli e suggerimenti nei confronti del giovane compositore.
Anche le altre opere di Giordano (Fedora, Siberia, Madame Sans-Gêne, La cena delle beffe, Il Re) entrarono nel repertorio dei maggiori teatri del mondo.
Artista di grande umanità e fascino, contava fra gli amici più fraterni il direttore Victor De Sabata e l'editore Piero Ostali, nuovo titolare della Casa Musicale Sonzogno, alla quale Giordano aveva sempre affidato le proprie opere.
Rimasto vedovo e dopo un secondo matrimonio con la giovane arpista Sara De Cristofaro, Giordano si spense serenamente nella sua casa di via Durini nel 1948. I funerali, per partecipazione popolare, furono paragonati a quelli di Verdi: il centro di Milano venne bloccato, e in Piazza della Scala una folla di migliaia di persone commosse, attorno al feretro del Maestro, ascoltò il celebre interludio della Fedora, eseguito dall'Orchestra della Scala diretta da Ettore Panizza.
