Johan Barthold Jongkind est le huitième enfant d'une famille de paysans. Âgé de dix-sept ans, il entre à l’académie des beaux-arts de La Haye, dans l'atelier du peintre romantique Andreas Schelfhout. Il étudie le dessin et surtout l’aquarelle d’après nature.

En 1846, il s'installe à Paris au 127, boulevard du Montparnasse et devient l'élève d'Eugène Isabey. Il expose deux toiles au Salon de 1852 et obtient une médaille de troisième classe parmi les douze décernées. La même année, le roi Guillaume III des Pays-Bas qui est monté sur le trône trois ans plus tôt, lui retire le bénéfice d'une pension. Sur ses vieux jours, quand le délire de persécution le prendra, il se plaindra que son roi l'avait abandonné au moment où il avait le plus besoin de son aide.

Déçu de n'avoir obtenu aucune récompense au Salon de 1855, et sujet à de graves ennuis financiers, il quitte Paris et rentre aux Pays-Bas. Il s'installe à Rotterdam où il sera soutenu par la reine Sophie, épouse malheureuse et opposante affichée de son époux. Entre-temps, la plus grande partie de ses œuvres (une centaine), restée à Paris, est mise en vente par son ami Pierre-Firmin Martin. Le résultat de la vente permettra de solder ses dettes. Toujours sous les auspices de Martin, il expose au Salon de Dijon de 1858 et obtient une médaille de seconde classe. Il est de retour à Paris en avril 1860. Cette même année, il rencontre Joséphine Fesser, née Borrhée, à Namur en 1819, qui devient son « bon ange ». Il s'installe rue de Chevreuse, près du boulevard du Montparnasse.

Dans les années 1860, il travaille et expose avec les peintres de l'école de Barbizon. Son goût des marines l’attire sur la côte normande, au Havre, à Sainte-Adresse, Honfleur et Trouville, entre autres. Il y fait en 1862, grâce à Moret, un élève d’Isabey, la connaissance d’Eugène Boudin sur qui il a une grande influence. De même, Claude Monet qu'il rencontre en 1862 lors de séjours communs à la Ferme Saint-Siméon à Honfleur, reconnaîtra sa dette envers Jongkind : « c'est à lui que je dois l'éducation définitive de mon œil ». L’artiste hollandais construira une longue amitié avec ces deux peintres. En 1863, il se fixe à Honfleur. Ses marines et scènes côtières ont une grande fraîcheur. Contrairement aux impressionnistes, il exécute ses toiles à l'atelier d'après ses croquis et ses aquarelles réalisés à l'extérieur. La même année, il participe au Salon des Refusés avec Ruines du château de Rosemont (Paris, musée d'Orsay). En 1869, il effectue son dernier séjour aux Pays-Bas, mais servi par sa grande mémoire visuelle, jusqu’à la fin de son existence, il continuera à s’inspirer de son pays natal pour certaines de ses œuvres. D’autres voyages en Suisse, en Belgique, et dans le sud de la France lui permettent de multiplier les études et de varier ses motifs. Il acquiert petit à petit la célébrité (le succès auprès du grand public ne vient pas avant 1870) et certains des marchands d'art les plus célèbres du temps, tels Hector Brame ou Adolphe Beugniet, exposent ses toiles dans leurs galeries. De son vivant, des faux Jongkind commencent même à circuler. En 1871, Edmond de Goncourt écrit dans son Journal : « Tout le paysage qui a une valeur à l'heure qu'il est descend de ce peintre, lui emprunte ses ciels, ses atmosphères, ses terrains ».

En août 1873, Jongkind découvre le Dauphiné. Il arrive à la gare de Châbons. Il réside alors à Pupetières avec le couple Fesser pendant une partie de l'année. Fesser est cuisinier au château de Pupetières, au service du marquis de Virieu.

En 1878, il vient habiter à La Côte-Saint-André pour y mener une existence paisible. Il produit, dans sa période dauphinoise, beaucoup d'aquarelles. Il n'est plus tenu à peindre sur commande, il est au contact des habitants et des paysans qu'il croque. Cependant, l’abus d’alcool et sa sensibilité exacerbée l'amènent à être interné à l'asile d'aliénés de Saint-Egrève, où il meurt le 9 février 1891. Joséphine Fesser, son « ange gardien », décède neuf mois plus tard. Tous les deux sont enterrés à La Côte-Saint-André, leurs tombes étant placées l’une à côté de l’autre.