De band werd in 1972 opgericht door Ton Scherpenzeel, Pim Koopman, Max Werner, Jean Michel Marion en Johan Slager. De band kwam voort uit de scholierenband van Scherpenzeel en Koopman, High Tide Formation. In datzelfde jaar werd Marion vervangen door Cees van Leeuwen.
Met hun eerste twee albums (See see the sun en Kayak II) behaalde de band enkele kleine nationale successen. In 1975 stapte Van Leeuwen uit de band en werd vervangen door Bert Veldkamp. Hierop volgde de opname van Royal bed bouncer. In datzelfde jaar leverde de band een bijdrage voor het Boekenweekgeschenk, het album Zing Je Moerstaal. Kayak vertolkte het gedicht ‘Boezem’ van Harry Mulisch op muziek van Ton.
Eind 1981/begin 1982 valt het doek voor Kayak. Na een korte reünie voor het televisieprogramma Classic Albums in 1997 kreeg de band een echte nieuwe impuls in 1999 toen de band door De Kast werd gevraagd als gast-band met hen op te treden. In 2000 kwam het album Close to the fire uit, dat een voltooiing was van reeds in 1995 gestarte opnamen, waar in eerste instantie niet Max Werner, maar Alex Toonen als zanger bij betrokken was. Inmiddels bestond de band uit Scherpenzeel, Werner, Veldkamp, Koopman en Rob Winter. Voor de optredens werd een tweede zanger aangenomen: Bert Heerink. Aan het einde van het jaar maakten de aanhoudende gezondheidsproblemen van Werner het onmogelijk om nog langer deel uit te maken van de band en Heerink werd de nieuwe leadzanger. Een nieuw bandlid werd gevonden in Rob Vunderink, die gitaar speelde en de tweede zanger werd.
In 2005 bracht de groep een nieuwe rockopera uit: “Nostradamus: Fate of Man en werd gevolgd door een theatertournee. In 2006 kondigde de band een akoestische tournee aan die van start is gegaan op 24 augustus van dat jaar. Begin 2008 ging de band op “The anniversary tour” ter gelegenheid van het 35-jarig jubileum van de eerste single. In december 2010 plaatste Ton Scherpenzeel de mededeling op de website dat Kayak zou blijven bestaan, met Hans Eijkenaar als opvolger van Pim Koopman. Met hem nam Kayak het album “Anywhere But Here” op, dat in september 2011 verscheen. In het najaar van 2011 ging Kayak weer op tournee.
Vanaf 2012 ging Kayak naar aanleiding van het 40-jarige jubileum op tournee onder de noemer “Journey through Time. Deze tour werd voortgezet in 2013. Daarnaast verscheen in september 2012 een officiële biografie over de band, geschreven door Irene Linders. In november 2014 bracht Kayak een nieuw conceptalbum uit, genaamd “Cleopatra- The Crown of Isis”, waarvan in het najaar van 2012 al een voorproefje te horen was op de gelijknamige EP. Ook begon Kayak toen aan een nieuwe tournee langs diverse popzalen in Nederland. Deze tour was de laatste waaraan vocalisten Cindy Oudshoorn en Edward Reekers meewerkten. Zij verlieten de band in januari 2015.
In de zomer van 2017 kondigde Ton Scherpenzeel de nieuwe line-up aan: “De bezetting waarin de groep zal gaan optreden bestaat behalve uit toetsenist Ton Scherpenzeel, gitarist Marcel Singor en zanger Bart Schwertmann, nu definitief ook uit bassist Kristoffer en drummer Collin Leijenaar, die onlangs de gelederen is komen versterken.” In de herfst van 2018 ging Kayak op toernee, waarbij voor het eerst in jaren weer buiten Nederland werd opgetreden. Nog tijdens de tour besloten Kayak en Collin Leijenaar afscheid van elkaar te nemen. In november 2018 werd Hans Eijkenaar -opnieuw- drummer van Kayak.
