Op 39-jarige leeftijd werd Joe Clark de jongste premier van Canada in 1979. Een fiscaal conservatief, Joe Clark, en zijn minderheidsregering werden verslagen na slechts negen maanden aan de macht op een motie van niet-vertrouwen op een begroting van belastingverhogingen en programma bezuinigingen.
Na het verliezen van de verkiezingen van 1980 bleef Joe Clark aan als leider van de oppositie. Toen Brian Mulroney het in 1983 overnam als leider van de Progressive Conservative Party van Canada en vervolgens premier in 1984, ging Joe Clark verder als een effectieve minister van externe betrekkingen en minister voor constitutionele zaken. Joe Clark verliet de politiek in 1993 om te werken als een internationale business consultant, maar keerde terug als leider van de Progressive Conservative Party van 1998 tot 2003.
Joe Clark begon zijn politieke carrière als directeur van de organisatie voor de Alberta Progressive Conservative Party van 1966 tot 1967. Hij was speciaal assistent van een conservatief parlementslid Davie Fulton in 1967. Hij diende als uitvoerend assistent van een conservatief parlementslid Robert Stanfield van 1967 tot 1970.
Joe Clark werd voor het eerst gekozen in het Lagerhuis in 1972. Hij werd verkozen tot leider van de Progressive Conservative Party van Canada in 1976 en was tot 1979 leider van de oppositie. Joe Clark werd na de generaal van 1979 beëdigd als premier van Canada. verkiezing.
De conservatieve regering werd verslagen in 1980. Joe Clark was opnieuw leider van de oppositie van 1890 tot 1983. Joe Clark riep een Progressive Conservative Party leiderschapsconventie en verloor het partijleiderschap aan Brian Mulroney in 1983.
In de regering Mulroney was Joe Clark van 1984 tot 1991 minister van Buitenlandse Zaken. Hij was president van de Privy Council en minister van 1991 tot 1993 verantwoordelijk voor constitutionele zaken. Joe Clark was niet aanwezig bij de algemene verkiezingen van 1993.
Joe Clark keerde in 1998 terug als leider van de Progressive Conservative Party van Canada. Hij werd herkozen in het Lagerhuis in 2000. In 2002 zei Joe Clark dat hij de Progressive Conservative Party zo ver mogelijk had gedragen. Het ontslag van Joe Clark als leider van de Progressive Conservative Party was effectief op de leiderschapsconventie in mei 2003.
Ongelukkig met de daaropvolgende fusie van de Progressive Conservative Party en de Alliance Party in de nieuwe Conservative Party van Canada, besloot Joe Clark niet deel te nemen aan de algemene verkiezingen van 2004.