Ebbe i natali ad Ascoli nel gennaio del 1714.
Dodicenne si recò a Napoli dove intraprese lo studio della musica sotto la direzione di Leonardo Leo, rimanendovi per circa due anni, poi si trasferisce a Bologna proseguendo l'apprendimento con i maestri Antonio Bernacchi per il canto, e Giovanni Battista Martini per composizione e contrappunto, diventa quindi membro dell'Accademia Filarmonica bolognese. Dal 1730 Mancini fu molto attivo come cantante ed insegnante nelle città di Roma, Napoli, Torino e Venezia, lavorando anche in Germania.
Nel 1757 ormai molto conosciuto al grande pubblico e dagli addetti ai lavori, fu chiamato dall'Imperatrice Maria Teresa d'Asburgo alla corte austriaca a Vienna, rimanendovi fino alla sua morte, con l'importante titolo di "Kammermusikus", qui ebbe modo di conoscere Pietro Metastasio considerato il riformatore del melodramma italiano, con il quale collaborò artisticamente ed il grande compositore Christoph Gluck.
Il celebre artista e storico della musica inglese: Charles Burney, nel suo viaggio austriaco nel 1772, scrisse che Mancini "insegnava canto a otto Arciduchesse con ottimi risultati, e parlava di arte con entusiasmo ed intelligenza". Nel 1774 egli pubblicò un libro di canto intitolato" Pensieri e riflessioni pratiche sopra al canto figurato" composto da quindici capitoli, trattato dedicato a Maria Elisabetta Arciduchessa d'Austria, sua allieva.
Opera di grande rilevanza che descrive in maniera ottimale, le caratteristiche ed i principi fondamentali del canto Settecentesco, rifiutando il virtuosismo esasperato. In questo trattato si esalta l'importanza del recitativo, rispetto all'aria e all'interpretazione. Di conseguenza vi furono delle aspre obbiezioni da parte dei critici musicali, che cercarono di contrastare la tesi di Mancini, ma l'opera nonostante le contestazioni, fu tradotta anche in tedesco nel 1780, francese 1775 e 1794, e olandese 1837. Diffusa per decenni in tutta Europa, ed ancora oggi è usata per apprendere le tecniche vocali del XVIII secolo. Giovanni Battista nel corso della sua carriera si dedicò anche alla composizione, scrivendo alcune Sonate per cembalo ed un Magnificat a otto voci.
Morì a Vienna nel gennaio del 1800.