YPI Al Madina semula terlahir dengan nama Yayasan Pendidikan dan Dakwah Baiturrahmah yang terdaftar pada akta notaris No.: 28/tgl 25 Sept/1999, yang ditandai dengan berdirinya TK Islam terpadu Al Madina dan TPQ Baiturrahmah, melihat perkembangan yang bukan berarti, maka pada th ke-3 YPD Baiturrahmah segera berbenah diri untuk meningkatkan kualitas pendidikan. Maka kami meminjam kembali kurikulum yang telah dilaksanakan dan melengkapinya dengan secara prasarana, bahkan membangun kembali gedung yang baru sebagai tempat yang representatif untuk melakukan kegiatan belajar, untuk menanggapi respond an image masyarakat terhadap Al Madina yang semakin luas, maka YPI Baiturrahmah mengubah namanya menjadi YPI Al Madina yang menaungi LPI Al Madina dari Prasekolah sampai perguruan tinggi bahkan insya Allah akan dilengkapi dengan dan Yayasan Yatim Piatu. Setelah berhasil dengan pengelolaan taman kanak – kanak pada tahun ke – 4 ( 2002-2003 ) YPI Al Madina membuka  Play Group dan SDI Al Madina.