Harry Shum Jr. nasce a Limón, in Costa Rica. Sua madre è originaria di Hong Kong, mentre il padre è originario di Canton, Cina. Si trasferirono in Costa Rica per lavoro, dove Shum e le due sorelle maggiori sono nate. Quando ha sei anni la famiglia si trasferisce nuovamente a San Francisco, California.
Shum parla fluentemente inglese e cantonese; cresciuto con lo spagnolo, ha dichiarato di non averlo più parlato dopo essersi trasferito in California
Ha iniziato la sua carriera nel programma Comic View, su BET nel 2002. Ha poi continuato la sua carriera come ballerino principale durante i tour di cantanti come Beyoncé, Mariah Carey, Jennifer Lopez, Chris Brown e Jessica Simpson.
Arriva sul grande schermo prendendo parte a film di danza come Stepping - Dalla strada al palcoscenico, SDF Street Dance Fighters, Step Up 2 - La strada per il successo e Step Up 3D. Grazie a questi ultimi due film ha ottenuto popolarità interpretando il personaggio di Cable. Come ballerino e coreografo si farà notare anche per la sua partecipazione alla webserie The Legion of Extraordinary Dancers, nel ruolo di Elliot Hoo.
Dal 2009 fa parte del cast della serie televisiva musicale Glee, in cui interpreta il personaggio ricorrente di Mike Chang sin dalla prima stagione. A partire dalla terza, viene promosso nel cast principale. Nel giugno 2013 è stato annunciato che non sarebbe tornato come personaggio principale per la quinta stagione, ma come guest star.
Nel 2012, Shum entra nel cast della seconda stagione della webserie statunitense Mortal Kombat: Legacy, nei panni di Kuai Liang. L'anno dopo ha un ruolo centrale nel crime drama, prodotto da Martin Scorsese, Revenge of the Green Dragons, basata su fatti di cronaca realmente accaduti per le strade di New York negli anni '80 e '90 nella gang della mafia cinese, Green Dragons. Nel 2016 appare nel sequel di La tigre e il dragone, intitolato Crouching Tiger, Hidden Dragon: Sword of Destiny.
Il 15 maggio 2015 è stato annunciato come interprete di Magnus Bane nella serie TV tratta dalla saga di Shadowhunters, l'adattamento televisivo della serie di best seller The Mortal Instruments di Cassandra Clare, che viene trasmessa da FreeForm (ex ABC Family) dal 12 gennaio 2016.
Nel 2017 Shum è stato confermato nel cast di Crazy & Rich, diretto da Jon M. Chu e distribuito dalla Warner Bros., e nel cast di Escape Plan 3: Devil's Station, accanto a Sylvester Stallone e diretto da John Herzfeld.
Dal 2007 ha una relazione con Shelby Rabara, con cui si fidanza nell'ottobre 2013. Il 22 novembre 2015 si sposano in Costa Rica. La coppia ha annunciato nel novembre 2018 di essere in attesa del primo figlio, una femmina. La nascita della bambina, Xia, viene annunciata il 28 marzo 2019.