Dans l'Antiquité, il existait deux sortes de harpes : la harpe arquée et la harpe angulaire.

La harpe est un instrument plusieurs fois millénaire.

Elle est, avec la flûte et certains instruments à percussion, l'un des plus anciens instruments de musique. Elle est peut-être née de l’arc dont la corde, tendue et relâchée, vibre et émet un son.

D'origine orientale très ancienne, les premiers vestiges datent d’environ 3500 ans avant Jésus-Christ, elle est connue des musiciens de l'Égypte antique, comme de Sumer et de Babylone. La harpe s'est répandue à travers les diverses civilisations et tous les continents sous des formes différentes.

La Harpe était un instrument universel : on la célèbre sur tous les continents et toutes les catégories sociales s'expriment à travers son art.

En Europe, elle est signalée au S.E de l'Écosse sur les pierres « pictes » aux alentours du IX^e siècle après J.-C., et en Irlande pendant le haut Moyen Âge. Elle a alors pris sa forme moderne : triangulaire, apparemment posée sur la pointe, et dotée de la colonne qui relie la console (où s'accrochent les cordes) au bas de la caisse de résonance. Son usage se répand ensuite sur tout le continent.
Le nombre de cordes et la forme variaient en fonction de l’évolution des civilisations, des besoins de la musique, de la technique de fabrication et de l'exigence d'inépuisables raffinements musicaux.

La harpe médiévale reste immuablement diatonique (échelle diatonique), alors que le chromatisme envahit peu à peu la musique. Sous la Renaissance on utilise encore des harpes diatoniques (Gargantua de Rabelais apprend à jouer de la harpe). Mais le manque de chromatisme entraîne une désaffection de l'instrument au profit du luth et des instruments à clavier en train de naître. Pour pallier ce handicap, les luthiers italiens construisent la arpa doppia, la harpe double contenant deux rangées de cordes parallèles. C'est alors que, en 1697, un luthier bavarois, Hochbrücker, imagina un mécanisme qui, à l'aide de pédales permit d'effectuer certaines modulations.

Cette harpe fut introduite en France en 1749. C'est une harpe à simple mouvement. C'est vers 1800 que le célèbre facteur de pianos, Sébastien Érard, invente le fameux mouvement à fourchettes qui va permettre à la harpe, de rivaliser à nouveau avec les autres instruments chromatiques. La harpe, qui n'est cependant pas classé parmi les instruments transpositeurs, joue souvent tout autre chose que ce qui est écrit en ayant recours aux homophones ou notes enharmoniques (homophonie). Pour répondre à ces critiques, en 1894, Gustave Lyon, directeur de la maison Pleyel, essaya de reprendre le principe des harpes chromatiques à double rangées de cordes croisées. Le succès de cette harpe fut de courte durée et à la mort de Gustave Lyon en 1936, elle disparut presque complètement de la vie musicale.