Ajax
Le 19 octobre 2002, de Jong a joué pour la première fois avec l'équipe première de l'Ajax. Il a marqué son premier but le 18 février 2003 lors d'un match nul 1-1 contre Arsenal en Ligue des champions de l'UEFA. Il a souvent commencé à jouer dans l'équipe première la saison suivante. Cette saison-là, l'Ajax a remporté l'Eredivisie. En 2004-05, de Jong a été nommé joueur de la saison de l'Ajax. Plus tard, après avoir commencé à jouer au milieu de terrain pendant un certain temps, il s'est retrouvé plus souvent sur le banc que parmi les joueurs au début d'un match. Le 7 décembre 2005, il a été annoncé que de Jong ne voulait pas rester à l'Ajax. Son contrat avec l'Ajax devait se terminer en juillet 2006.
Hambourg
Le 26 janvier 2006, de Jong a signé un contrat de quatre ans et demi au club de Bundesliga allemande de Hambourg. Il s'y installe pour environ 1 million d'euros. Il a joué pour la première fois à Hambourg deux jours plus tard. Lors de ce match, Hambourg s'est incliné 2-1 face à Nuremberg. En mars 2006, de Jong a marqué le but gagnant lors de la toute première défaite du Bayern Munich à l'Allianz Arena. La semaine suivante, il a reçu son premier carton rouge lors d'un match de Coupe de l'UEFA contre le Rapid Bucarest. Il a dû arrêter de jouer en avril parce qu'il a dû être opéré d'un problème de genou. Cette blessure l'a également empêché de jouer pour les Pays-Bas lors de la Coupe du monde 2006. Cependant, après s'être remis en forme, il a été mis en attente.
Manchester City
Le 21 janvier 2009, de Jong s'est installé à Manchester City pour environ 18 millions de livres sterling. Il a signé un contrat de quatre ans et demi. Il a joué pour la première fois contre Newcastle United le 28 janvier 2009. Il a joué seize fois en Premier League.
De Jong était dans l'équipe de départ contre Arsenal le 12 septembre 2009. Il a été désigné Homme du Match par Sky Sports après la victoire de Manchester City 2-1 sur Chelsea le 5 décembre 2009. À la fin de la saison, les fans l'ont apprécié. Il a été l'un des premiers choix de Roberto Mancini en tant que milieu défensif, l'équipe ayant manqué de peu la Ligue des champions. De Jong a marqué son premier but pour Manchester City lors de la victoire 2-1 contre West Ham United le 1er mai 2011.
Milan
Le 31 août 2012, de Jong a rejoint le club italien de Serie A de Milan. Il a signé un contrat de trois ans.