Nasce nel piccolo centro piceno di Appignano del Tronto nel 1915. Studia ad Ascoli e nell'aprile 1962 arriva nella Repubblica di San Marino, presso il Convento dei Frati Minori conventuali di San Francesco. Diplomato al Conservatorio, anche compositore, già dopo poche settimane iniziò a collaborare con la "Corale" locale per l'esecuzione della "Missa Choralis" di Licinio Fedele nel giorno della Santa Pasqua, presso la Basilica del Santo Marino in città. Il Maestro Franchini, che lo aveva chiamato nella Repubblica del Titano, gli affidò la direzione tecnica del Coro, che, sotto la direzione dello Stipa, raggiunse una evoluzione sorprendente di qualità di esecuzione, sia polifonica che profana. Dal 1967 al 1992 le esibizioni furono molto numerose e proficue: con la sicura mano musicale di Gaspare vennero allacciati contatti e organizzati concerti in Europa in Francia, Romania, Cecoslovacchia, e anche negli Stati Uniti. Lo straordinario compositore di Appignano produsse un importante numero di opere per organo, per coro, e per orchestra. Il repertorio della "Corale" di San Marino fu caratterizzato dalle sue composizioni: da rimarcare le notevoli "Messa Dilectio Dei" a 4 voci miste ed organo, trasmesse dalla RAI nel 1967, e "Suite Seraphica" per grande organo, pubblicato dalle Edizioni Carrara. La vasta raccolta di produzioni musicali fu successivamente edita in due volumi, usciti tra il 1998 e il 2004, a cura della Segreteria dello stato di San Marino. Grazie allo splendido lavoro di Gaspare Stipa, nella piccola Repubblica si tenne, a partire dal 1980, una Rassegna concertistica denominata "Luglio Organistico", cui parteciparono nelle varie edizioni i più grandi musicisti del panorama italiano e mondiale, come Giancarlo Parodi, Arturo Sacchetti, Ottorino Baldassarri, e Wijnand van De Pol. Fra i suoi estimatori vi fu il Maestro Dimitrov, direttore dell'Orchestra Sinfonica di San Marino, che subendo il fascino delle sue musiche, lo invitò in Bulgaria, suo paese natale, per una rappresentazione del suo "Requiem" per soli coro e orchestra. Dopo una carriera di oltre tre decenni, Gaspare si ritirò per motivi di salute dalla direzione tecnica della "Corale", che passò al Maestro Giacomini, ma rimase indiscusso punto di riferimento per l'attività musicale fino alla sua morte, avvenuta nel 2006.