Oliver Kipp studierte Violine an den Musikhochschulen in Hannover bei Atila Aydintan und Berlin bei Thomas Brandis. Weitere Impulse im Bereich der Kammermusik erfolgten durch Hatto Beyerle (Alban Berg Quartett), Walter Levin (LaSalle Quartett, Uwe-Martin Haiberg (Brahms-Quartett) und György Sebök.
Seine Ausbildung als Orchestermusiker erhielt Oliver Kipp während des Studiums als Mitglied des "European Community Youth Orchestra" (1987-1993), bei der NDR Radiophilharmonie (1991-1993) und als Gast der Berliner Philharmoniker (1994-1998). Seit 1998 ist er Stimmführer der NDR Radiophilharmonie.
1999 gründete er das Hyperion Trio. Seitdem gibt es eine umfangreiche Konzerttätigkeit mit diesem Ensemble. Außerdem ist er Mitglied des Norddeutschen Streichtrios. Mit diesen beiden Ensembles gründete er 2016 das Festival "Klanginsel Helgoland". Ziel des Festivals - und generell seiner kammermusikalischen Arbeit - ist es, bekannte Meisterwerke seltener gespielten Werken gegenüberzustellen um auf diese Weise biographischen oder musikhistorischen Zusammenhängen nachzuspüren. In vielen Fällen führte diese Arbeit zu Ersteinspielungen der unbekannten Werke (wie z.B. in den CD-Produktionen Joseph Marx, Julius Röntgen, Robert Kahn, Felix Woyrsch und Rubin Goldmark). Diese Einspielungen werden regelmäßig von der Fachpresse hoch gelobt.
Seit 2008 ist Oliver Kipp Tutor für Violine und Kammermusik des "European Union Youth Orchestra". Er hat einen Lehrauftrag an der Hochschule für Musik, Theater und Medien Hannover. Außerdem arbeitet er regelmäßig mit den Akademisten der NDR Radiophilharmonie. Er ist gefragter Juror bei internationalen Wettbewerben, Dozent bei Meisterkursen und Mitglied des "Audition Panel" des European Union Youth Orchestra.