Sejarah koperasi kredit dimulai pada abad ke-19, ketika Jerman dilanda krisis ekonomi karena badai salju yang melanda seluruh negeri. Para petani tak dapat bekerja karena banyak tanaman tak menghasilkan. Penduduk pun kelaparan. Situasi ini dimanfaatkan oleh orang-orang berduit. Mereka memberikan pembiayaan kepada penduduk dengan suku bunga yang sangat tinggi. Sehingga banyak orang terjerat utang. Oleh karena tidak mampu membayar uutang, maka sisa harta benda mereka pun disita oleh rentenir.

Kemudian tidak lama berselang, terjadi Revolusi Industri. Pekerjaan yang sebelumnya dilakukan manusia diambil alih oleh mesin-mesin. Banyak pekerja terkena Pemutusan Hubungan Kerja. Jerman dilanda masalah pengangguran secara besar-besaran. Melihat kondisi ini wali kota Flammersfield, Friedrich Wilhelm Raiffeisen merasa prihatin dan ingin menolong kaum miskin.

Ia mengundang orang-orang kaya untuk menggalang bantuan. Ia berhasil mengumpulkan uang dan makanan, kemudian dibagikan kepada kaum miskin. Ternyata derma tak memecahkan masalah kemiskinan. Sebab kemiskinan adalah akibat dari cara berpikir yang keliru.

Penggunaan uang tak terkontrol dan tak sedikit penerima derma memboroskan uangnya agar dapat segera minta derma lagi. Akhirnya, para dermawan tak lagi berminat membantu kaum miskin. Raiffeisen tak putus asa. Ia mengambil cara lain untuk menjawab soal kemiskinan ini. Ia mengumpulkan roti dari pabrik-pabrik roti di Jerman untuk dibagi-bagikan kepada para buruh dan petani miskin. Namun usaha ini pun tak menyelesaikan masalah. Hari ini diberi roti, besok sudah habis, begitu seterusnya.

Berdasar pengalaman itu, Raiffeisen berkesimpulan: “kesulitan si miskin hanya dapat diatasi oleh si miskin itu sendiri. Si miskin harus mengumpulkan uang secara bersama-sama dan kemudian meminjamkan kepada sesama mereka juga. Pembiayaan harus digunakan untuk tujuan yang produktif yang memberikan penghasilan. Jaminan pembiayaan adalah watak si peminjam.

Untuk mewujudkan impian tersebutlah Raiffeisen bersama kaum buruh dan petani miskin akhirnya membentuk koperasi bernama Credit Union (CU) artinya, kumpulan orang-orang yang saling percaya. Credit Union yang dibangun oleh Raiffeisen, petani miskin dan kaum buruh berkembang pesat di Jerman, bahkan kini telah menyebar ke seluruh dunia.