È uno dei più apprezzati armonicisti jazz, di tutti i tempi; nato il 29 aprile 1922 a Bruxelles (Belgio) e nella sua carriera ha collaborato con artisti del calibro di Benny Goodman, Elis Regina, Dizzy Gillespie, Charlie Parker, Billy Eckstine, Oscar Peterson, Joe Pass, Ella Fitzgerald, Djavan, Bill Evans, Jaco Pastorius, Quincy Jones, Joe Lovano, Mongo Santamaría, Pat Metheny e Mina.
 Thielemans svaria indifferentemente fra i più diversi generi musicali senza mai tradire la sua vena jazz che lo accompagna da quando durante la seconda guerra mondiale ebbe modo di ascoltare incisioni di Louis Armstrong. Ha partecipato alle colonne sonore di vari film, ed il suono della sua armonica rimane legato soprattutto a Un uomo da marciapiede. Uno dei più apprezzati modelli di armonica cromatica porta il suo nome; è la "Toots" della Hohner. In Italia negli anni settanta divenne noto anche al grande pubblico televisivo grazie alla sua presenza nella sigla finale della trasmissione Milleluci (1974), durante la quale compariva al fianco di Mina, che accompagnava con la sua armonica nella canzone Non gioco più. Ha partecipato, in veste di guest star, al Festival di Sanremo 1997 accompagnando l'esecuzione dei Dirotta su Cuba nel brano "È andata così". Nel 2004 è stato ospite del concerto di Sergio Cammariere al Pescara Jazz accompagnando il cantautore in alcuni brani. Re Alberto II del Belgio gli ha conferito il titolo nobiliare di barone. Il 12 marzo 2014, all'età di 91 anni, ha annunciato il suo ritiro. È morto nel sonno il 22 agosto 2016, all'età di 94 anni, nell'ospedale in cui era stato ricoverato qualche giorno prima.