Madrasah Al-Ihsaniah merupakan madrasah moden pertama di Malaya. Diasaskan oleh Sheikhul Islam Mohd Salleh Bin Mohd Taib, ulama kelahiran Minangkabau. Beliau mengikuti pelajaran agama di Mekah dan berguru dengan ulama-ulama terkemuka ketika itu.
Sheikhul Islam Mohd Salleh datang ke negeri Perak atas undangan Raja Mahmud, Orang Kaya-Kaya Imam Paduka Tuan dan menetap di Kuala Kangsar. Beliau kemudian berpindah ke Teluk Anson dimana ketokohan beliau sudah terkenal disana. Dengan sokongan dari masyarakat bertambah, beliau kemudian membina sebuah madrasah yang diberi nama Madrasah Ihsaniah diatas sebidang tanah seluas ½ ekar.
Bangunan asal Madrasah Al-Ihsaniah dibina menggunakan kayu-kayu dengan beratapkan nipah. Kemudian, apabila kewangan madrasah mencukupi maka terbinalah bangunan seperti yang masih kekal hingga ke hari ini pada tahun 1901.
Wakaf bagi pembinaan ini turut disumbangkan oleh Almarhum Sultan Idris Murshidul' Adzam Shah ibni Almarhum Raja Bendahara Alang Iskandar.