Sejarah perpustakaan di Indonesia termasuk masih muda bila ketimbang negara Eropa dan Arab. Jika kita mengambil pendapat bahwa sejarah perpustakaan ditandai dengan dikenalnya goresan pena, maka sejarah perpustakaan di Indonesia mampu dimulai pada tahun 400-an yaitu dikala lingga watu dengan tulisan Pallawa didapatkan dari periode Kerajaan Kutai. Musafir Fa-Hsien dari tahun 414M menyatakan bahwa di kerajaan Ye-po-ti, yang bahwasanya kerajaan Tarumanegara banyak dijumpai kaum Brahmana yang tentunya membutuhkan buku atau manuskrip keagamaan yang mungkin disimpan di kediaman pendeta.
Pada sekitar tahun 695 M,, di Ibukota Kerajaan Sriwijaya hidup lebih dari 1000 orang biksu dengan peran keagamaan dan mempelajari agama Budha melalui aneka macam buku yang pastinya disimpan di banyak sekali biasa.Di pulau Jawa, sejarah perpustakaan tersebut dimulai pada abad Kerajaan Mataram. Hal ini alasannya adalah di kerajaan ini mulai dikenal pujangga keraton yang menulis berbagai karya sastra. Karya-karya tersebut seperti Sang Hyang Kamahayanikan yang menampung uraian wacana agama Budha Mahayana. Menyusul lalu sembilan parwasari kisah Mahabharata dan satu kanda dari epos Ramayana. Juga timbul dua kitab keagamaan adalah Brahmandapurana dan Agastyaparwa. Kitab lain yang populer ialah Arjuna Wiwaha yang digubah oleh Mpu Kanwa. Dari uraian tersebut nyatabahwa sudah ada naskah yang ditulis tangan dalam media daun lontar yang diperuntukkan bagi pembaca kalangan sungguh khusus yaitu kerajaan. Jaman Kerajaan Kediri dikenal beberapa pujangga dengan karya sastranya. Mereka itu adalah Mpu Sedah dan Mpu Panuluh yang gotong royong menggubah kitab Bharatayudha. Selain itu Mpu panuluh juga menggubah kitab Hariwangsa dan kitab Gatotkacasrayya. Selain itu ada Mpu Monaguna dengan kitab Sumanasantaka dan Mpu Triguna dengan kitam resnayana. Semua kitab itu ditulis diatas daun lontar dengan jumlah yang sungguh terbatas dan tetap berada dalam lingkungan keraton.
Periode berikutnya yakni Kerajaan Singosari. Pada abad ini tidak dihasilkan naskah populer. Kitab Pararaton yang terkenal itu disangka ditulis sehabis keruntuhan kerajaan Singosari. Pada jaman Majapahit dihasilkan dihasilkan buku Negarakertagama yang ditulis oleh Mpu Prapanca. Sedangkan Mpu Tantular menulis buku Sutasoma.
Pada Kegiatan penulisan dan penyimpanan naskah masih terus dilanjutkan oleh para raja dan sultan yang tersebar di Nusantara. Misalnya, jaman kerajaan Demak, Banten, Mataram, Surakarta Pakualaman, Mangkunegoro, Cirebon, Demak, Banten, Melayu, Jambi, Mempawah, Makassar, Maluku, dan Sumbawa. Dari Cerebon diketahui dihasilkan puluhan buku yang ditulis sekitar periode ke-16 dan ke-17. . Perpustakaan mulai diresmikan mula-mula ntuk tujuan menunjang program penyebaran agama mereka. Berdasarkan sumber sekunder perpustakaan paling permulaan bangun pada era ini yakni pada periode VOC (Vereenigde OostJurnal Pustakawan Indonesia volume 6 nomor 160 Indische Compaqnie) ialah perpustakaan gereja di Batavia (sekarang Jakarta) yang dibangun sejak 1624. pada kurun ke-17 Indonesia sudah mengenal perluasan jasa perpustakaan (sekarang layanan mirip ini disebut dengan pinjam antar perpustakaan atau interlibrary loan).
Lebih dari seratus tahun lalu bangun perpustakaan khusus di Batavia. Pada tanggal 25 April 1778 bangun Bataviaasche Genootschap van Kunsten en Wetenschappen (BGKW) di Batavia. Bersamaan dengan berdirinya forum tersebut bangkit pula perpustakaan lembaga BGKW. Pendirian perpustakaan lembaga BGKW tersebut diprakarsai oleh Mr. J.C.M. Rademaker, ketua Raad van Indie (Dewan Hindia Belanda). Ia memprakarsai pengumpulan buku dan manuskrip untuk koleksi perpustakaannya. Perpustakaan ini kemudian mengeluarkan katalog buku yang pertama di Indonesia.
Pada tahun 1962 Lembaga Kebudayaan Indonesia diserahkan kepada Pemerintah Republik Indonesia dan namanyapun diubah menjadi Museum Pusat. Koleksi perpustakaannya menjadi bab dari Museum Pusat dan diketahui dengan Perpustakaan Museum Pusat. Nama Museum Pusat ini lalu berubah lagi menjadi Museum Nasional, sedangkan perpustakaannya diketahui dengan Perpustakaan Museum Nasional. Pada tahun 1980 Perpustakaan Museum Nasional dilebur ke Pusat Pembinaan Perpustakaan. Perubahan terjadi lagi pada tahun 1989 dikala Pusat Pembinaan Perpustakaan dilebur selaku bab dari Perpustakaan Nasional Republik Indonesia.
Perkembangan Perpustakaan Perguruan Tinggi di Indonesia dimulai pada awal tahun 1920an. Mengikuti berdirinya perguruan tinggi, contohnya seperti Geneeskunde Hoogeschool di Batavia (1927) dan lalu juga di Surabaya dengan STOVIA; Technische Hoogescholl di Bandung (1920), Fakultait van Landbouwwentenschap (er Wijsgebeerte Bitenzorg, 1941), Rechtshoogeschool di Batavia (1924), dan Fakulteit van Letterkunde di Batavia (1940). Setiap perguruan tinggi atau fakultas itu memiliki perpustakaan yang terpisah satu sama lain.
Di samping perpustakaan yang diresmikan oleh Pemerintah Hindia Belanda, bekerjsama tercatat juga perpustakaan yang diresmikan oleh orang Indonesia. Pihak Keraton Mangkunegoro mendirikan perpustakaan keraton sedangkan keraton Yogyakarta mendirikan Radyo Pustoko. Sebagian besar koleksinya yakni naskah kuno. Koleksi perpustakaan ini tidak dipinjamkan, tetapi boleh dibaca di tempat. Pada kala penjajahan Jepang hampir tidak ada kemajuan perpustakaan yang memiliki arti. Jepang hanya mengamankan beberapa gedung penting, di antaranya Bataviaasch Genootschap van Kunten Weetenschappen. Selama pendudukan Jepang openbareleeszalen ditutup. Volkbibliotheek dijarah oleh rakyat dan lenyap dari permukaan bumi. Karena pengamanan yang besar lengan berkuasa pada gedung Bataviaasch Genootschap van Kunten Jurnal Pustakawan Indonesia volume 6 nomor 162 Weetenschappen, maka koleksi perpustakaan ini dapat dipertahankan, dan merupakan cikal bakal dari Perpustakaan Nasional.
Perkembangan pasca kemerdekaan mungkin mampu dimulai dari tahun 1950an yang ditandai dengan berdirinya perpustakaan baru. Pada tanggal 25 Agustus 1950 berdiriperpustakaan Yayasan Bung Hatta dengan koleksi yang menitikberatkan terhadap pengelolaan ilmu pengetahuan dan kebudayaan Indonesia. Tanggal 7 Juni 1952 perpustakaan Stichting voor culturele Samenwerking, sebuah tubuh koordinasi kebudayaan antara pemerintah RI dengan pemerintah Negeri Belanda, diserahkan terhadap pemerintah RI. Kemudian oleh Pemerintah RI diubah menjadi Perpustakaan Sejarah Politik dan Sosial Departemen P & K.
Dalam rangka perjuangan melaksanakan pemberantasan buta abjad di seluruh pelosok tanah air, telah diresmikan Perpustakaan Rakyat yang bertugas menolong usaha Jawatan Pendidikan Masyarakat melaksanakan usaha pemberantasan buta huruf tersebut. Pada kala ini juga lahir Perpustakaan Negara yang berfungsi sebagaiperpustakaan umum dan didirikan di ibukota provinsi. Perpustakaan Negara yang pertama diresmikan di Yogyakarta pada tahun 1949, kemudian disusul Ambon (1952); Bandung (1953); Ujung Pandang (Makassar) (1954); Padang (1956); Palembang (1957); Jakarta (1958); Palangkaraya, Singaraja, Mataram, Medan, Pekanbaru dan Surabaya (1959). Setelah itu menyusul kemudian Perpustakaan Nagara di Banjarmasin (1960); Manado (1961); Kupang dan Samarinda (1964). Perpustakaan Negara ini dikembangkan secara lintas instansional oleh tiga instansi, ialah Biro Perpustakaan Departemen P & K yang membina secara teknis, Perwakilan Departemen P & K yang membina secara administratif, dan pemerintah kawasan tingkat provinsi yang menunjukkan akomodasi.