Klop studeerde wiskundige logica aan de Universiteit Utrecht. In 1980 promoveerde hij op een studie met de titel 'Combinatory Reduction Systems'. Daarna was hij verbonden aan het Centrum voor Wiskunde en Informatica. Sinds 1986 is hij als professor Toegepaste Logica werkzaam bij de VU Amsterdam. Aan dezelfde universiteit was hij van 2002 tot 2004 hoofd van de afdeling Computer Science. Ook is hij sinds 2003 secretaris van de sectie wiskunde van de KNAW. Sinds 2007 is hij emeritus hoogleraar, maar nog steeds actief betrokken bij allerlei onderzoeksactiviteiten in zijn vakgebied.