Nasce a Roma nel 1826.

Negli anni Cinquanta si dedica a una pittura di paesaggio influenzata da pittori francesi (Corot, primo fra tutti) associata a una tendenza classicista. Negli anni Sessanta, a Firenze, frequenta il caffè Michelangiolo, dove viene a contatto con i giovani artisti macchiaioli, che influenzerà particolarmente per determinarne la svolta naturalistica.

I suoi quadri hanno in grande misura come oggetto il paesaggio, che è visto come il mezzo ideale per un'arte che restituisca il senso di totalità e armonia della natura. Hanno tutti un formato intensamente orizzontale. Un suo quadro particolarmente famoso è Alla fonte (La ninfa nel bosco) che, iniziato nel 1863 è stato completato oltre trenta anni dopo, nel 1895.

Dopo diversi viaggi in Francia e in Inghilterra, nel 1978 a Roma partecipa alla fondazione del Golden Club, e nel 1885 alla società In arte Libertas.

Costa è stato anche un fervente nazionalista risorgimentale. Partecipa come garibaldino alla prima guerra di Indipendenza. Nel 1849 difende la repubblica romana della quale è anche assessore. Ma alla caduta della repubblica deve fuggire. Riprenderà l’attività politica nel 1970, combattendo per la liberazione di Roma e partecipando all’entrata nella città dei bersaglieri. Svolgerà attività politica entrando nel triunvirato e eletto come consigliere comunale in Trastevere.

Muore a Marina di Pisa nel 1903.