La carrière politique de Pierre Mauroy a débuté au sein de la Section française de l’internationale ouvrière ou SFIO. Il est membre du comité directeur du Parti de 1963 à 1971. Trois ans plus tard, c’est-à-dire en 1966, il en devient le Secrétaire général adjoint. À la création du PS qui prend la place du SFIO en 1966, Pierre Mauroy n’arrive pas à se faire élire à la tête du parti. C’est François Mitterrand qui l’emporte. Il devient toutefois le Premier secrétaire de la Fédération du Nord du PS en 1971. Entre temps, il a intégré le Conseil général du Cateau et assure en même temps la vice-présidence du Conseil général du Nord. Il fait d’ailleurs du Nord son fief politique puisque la même année (1971), il devient conseiller municipal et premier adjoint du Maire de Lille. Il assure également la vice-présidence de la Communauté urbaine de Lille. L’année 1973 marque une petite consécration pour Pierre Mauroy dans le département du Nord puisqu’il devient à la fois Maire de Lille (suite à la démission Augustin Laurent) et député du Nord. Il accède et préside aussi au Conseil régional du Nord-Pas-de-Calais en 1974. Il est désormais vu comme le numéro 2 du PS puisqu’il s’affiche souvent aux côtés de François Mitterrand.
Le PS essuie une lourde défaite lors des législatives de 1978 et Pierre Mauroy tente, avec François Mitterrand une réforme internet au sein du parti. A l’issue du congrès de Metz, en 1979, Pierre Mauroy se rapproche finalement de Michel Rocard et se positionne contre Mitterrand, mais il rejoint ce dernier lorsque Rocard annonce qu’il souhaite se porter candidat pour l’élection présidentielle de 1981. François Mitterrand se présente aussi et Pierre Mauroy est nommé porte-parole de sa campagne en octobre 1980. Entre temps, Mauroy est devenu député européen. À l’élection de François Mitterrand, Pierre Mauroy est nommé Premier ministre et François Mitterrand lui apporte soutien important dans toutes ses actions. Il aura formé trois gouvernements jusqu’en juillet 1984 où il reprend ses fonctions dans le Nord. Son passage à Matignon est marqué par plusieurs réformes, dont la mise en place de la cinquième semaine de congés payés, de l’impôt sur la fortune, de l’âge de départ à la retraite fixé à 60 ans, du remboursement des frais d’IVG, de l’abolition de la peine de mort…etc.
Pierre Mauroy quitte Matignon en 1984 et retourne dans le département du Nord, plus précisément au Conseil municipal de Lille. Il réintègre le Conseil régional du Nord-Pas-de-Calais deux ans plus tard. Il évolue également progressivement au sein du PS. Il devient par exemple Premier secrétaire du parti en 1988 et encore renommé à ce poste en 1990. Il démissionne toutefois en 1992, année où il devient Sénateur du Nord (jusqu’à maintenant) et quitte la Mairie de Lille au profit de Martine Aubry. Pierre Mauroy est également membre du Conseil national et du bureau national du PS de septembre 1994 à décembre 1999. Il est en même temps président de l’Internationale socialiste à cette même période.
Pierre Mauroy est de nouveau membre du Conseil municipal de Lille en 2001 et il y reste jusqu’en 2008. Il est également Maire honoraire de la ville depuis 2001. En 2007, il a soutenu la candidature de Ségolène Royal et son parcours a été marqué ces dernières années par sa mise en examen qui remonte à juin 2008. Il était alors soupçonné de détournement de fonds publics sur de potentiels emplois fictifs impliquant Lyne Cohen-Solal. Le Tribunal correctionnel de Lille devrait donner son verdict en décembre 2010.