Auch in Deutschland waren Anfang des 19. Jahrhunderts christliche Vereine gegründet worden. Sie nannten sich zwar nicht CVJM, waren ihm aber von ihrem Ziel und ihrer Struktur her sehr ähnlich.
Diese sogenannten Jünglingsvereine schlossen sich 1848 zum ersten Mal zu einem größeren Verband zusammen, dem Rheinisch-Westfälischen-Jünglingsbund.
Im Lauf der nächsten Jahrzehnte wurden auch im übrigen Deutschland solche Verbände gegründet. Die zunächst mit viel Enthusiasmus begonnene Arbeit geriet jedoch in den siebziger Jahren des 19. Jhdt. in eine ernsthafte Krise. Viele Vereine wurden aufgelöst und die Mitgliederzahl verminderte sich rapide. Die Ursachen jenes Rückgangs waren wohl in den gewaltigen Umwälzungen durch die immer mehr um sich greifende Industrialisierung und die damit verbundenen Probleme der Verstädterung und Verelendung der Menschen zu sehen. Der gleichzeitig immer mehr aufkommende Atheismus und der Verfall ethischer und moralischer Grundwerte erschwerten die Arbeit der Vereine.

Jm Jahr 1883 erfolgte jedoch ein neuer und wichtiger Anstoß. Damals gründete der Deutsch-Amerikaner Friedrich von Schlumbach den ersten deutschen CVJM nach dem Muster eines amerikanischen CVJMs. Der Verein entstand in Berlin. Als wichtigste Neuerung für das deutsche Werk wurden vor allem die Veranstaltung von Evangelisationen im großen Stil und das öffentliche Zeugnis der Bekehrten eingeführt. Man wollte nun nicht mehr nur die bisherigen Kreise pflegen, sondern in Zukunft auch die religionsfremde Jugend in den Großstädten für Jesus gewinnen. Im Zuge dieses Neuaufschwungs ist auch die Gründung des ?Reichsverbandes der evangelischen Jünglingsbünde? (heute: CVJM-Gesamtverband), als loser Zusammenschluß der einzelnen Landesverbände, zu sehen.

Seit den 60er Jahren dieses Jahrhunderts nehmen immer mehr Mädchen und Frauen an der CVJM-Arbeit teil. Das führte zur Namensänderung 1985. Seitdem bedeutet CVJM "Christlicher Verein Junger Menschen".