39 éves korában Joe Clark lett 1979-ben Kanada legfiatalabb miniszterelnöke. Egy fiskális konzervatív, Joe Clark és ő kisebbségi kormány Csak kilenc hónapos hatalommal buktak le az adóemelések és a programcsökkentések költségvetésének bizalmatlansági indítványa alapján.
Miután elvesztette az 1980-as választást, Joe Clark az ellenzék vezetője maradt. Amikor Brian Mulroney 1983-ban vette át a kanadai Progresszív Konzervatív Párt vezetőjét, majd miniszterelnököt 1984-ben Joe Clark miniszter, továbbra is tényleges külügyi miniszter és alkotmányügyi miniszter Ügyek. Joe Clark 1993-ban elhagyta a politikát, hogy nemzetközi üzleti tanácsadóként dolgozzon, de 1998 és 2003 között visszatért a Progresszív Konzervatív Párt vezetőjévé.
Joe Clark politikai karrierjét 1966-tól 1967-ig az Alberta Progresszív Konzervatív Párt Szervezetének igazgatójaként kezdte. 1967-ben Davie Fulton konzervatív parlamenti képviselő különleges asszisztense volt. 1967-től 1970-ig Robert Stanfield konzervatív parlamenti képviselő ügyvezetõ asszisztense volt.
Joe Clark-t először 1972-ben választották az alsóházba. 1976-ban a kanadai Progresszív Konzervatív Párt vezetõjévé választották, és 1979-ig az ellenzék vezetõje. Joe Clarket esküt tették Kanada miniszterelnökévé az 1979-es általános választások után.
A konzervatív kormányt 1980-ban legyőzték. Joe Clark ismét az ellenzék vezetője volt 1890 és 1983 között. Joe Clark egy Progresszív Konzervatív Párt vezetési egyezményét hívta fel, és 1983-ban Brian Mulroney elvesztette a párt vezetését.
A Mulroney kormányában Joe Clark 1984 és 1991 között volt a külügyminiszter. 1991 és 1993 között a Privy Council elnöke és az alkotmányügyi ügyekért felelős miniszter. Joe Clark nem vett részt az 1993. évi általános választásokon.
Joe Clark 1998-ban visszatért a kanadai Progresszív Konzervatív Párt vezetőjévé. 2000-ben újraválasztották az alsóházba. 2002-ben Joe Clark azt mondta, hogy amennyire csak lehetséges, a Progresszív Konzervatív Pártot vitte tovább. Joe Clark Progresszív Konzervatív Párt vezetőjének lemondása a 2003. májusában megtartott vezetői egyezményen hatályba lépett.