LIPIA didirikan pada tahun 1980 untuk memberikan pendidikan dengan konsentrasi dalam bahasa Arab dan agama Islam untuk siswa Indonesia dengan keputusan dari Mahkamah Kerajaan, No. 5/n/26710. Nama perguruan tinggi tersebut adalah Lembaga Pendidikan Bahasa Arab sampai tahun 1986. Perguruan tinggi tersebut adalah cabang daripada kampus Universitas Islam Imam Muhammad bin Saud di Riyadh, Arab Saudi.