Sebagaimana dimengerti, bahwa bentuk goresan pena Al-Qur’an dan goresan pena-tulisan berbahasa Arab yang lain pada era permulaan (era Nabi dan Khulafaurrasyidin) ditulis tanpa titik dan baris (syakal).
Sejalan dengan perkembangan agama Islam, semakin banyak orang-orang non-Arab memeluk Islam, maka timbul masalah bagi mereka untuk membaca Al-Qur’an yang tanpa titik dan baris itu. Bahkan tidak jarang kesalahan baris (harakat) dalam bacaan Al-Qur’an mampu mengakibatkan pergeseran makna yang sungguh mendasar.
Sebagai contoh, suatu ketika Abul-Aswad ad-Du’ali mendengar seorang qari membaca Surat at-Taubah ayat 3: أن الله بريئ من المشركين و رسولُه .
Ayat ini semestinya dibaca dengan tanda dhammah pada huruf lam lafazh رسولُه. Akan tetapi oleh qari’ tersebut dibaca و رسولِه dengan membaca kasrah pada karakter lam.
Hal ini mengagetkan Abul Aswad dan beliau berkata: “Maha Tinggi Allah untuk meninggalkan rasul-Nya”.
Kemudian Abul Aswad melaporkan hal ini terhadap Ziyad bin Samiyyah, Gubernur Basrah pada kurun pemerintahan Mu’awiyah (661-680 M).
Lalu Abul Aswad diminta untuk membubuhkan tanda baca (syakal) guna menghindari kesalahan membaca di kelompok kaum muslimin.
Memenuhi undangan tersebut Abul Aswad memikirkan dan merumuskan tanda baca berupa : titik satu di atas huruf ( • ) sebagai tanda fathah (suara vokal ‘a’); titik satu di bawah karakter ( .) sebagai tanda kasrah (bunyi vokal ‘i’) dan titik satu di depan karakter ( ·– ) sebagai tanda dhammah (suara vokal ‘u’). Dalam penulisan mushhaf, tanda harakat ini diberi warna berbeda dengan tulisan hurufnya, dan dia tidak dibubuhkan pada setiap huruf melainkan cuma pada karakter terakhir setiap kata sebagai tanda i’rab.
Setelah tunjangan tanda syakal/harakat tersebut simpulan, masalah lain yang timbul dalam pembacaan mushhaf Al-Qur’an adalah kesamaan bentuk beberapa aksara yang tidak mampu dibedakan kecuali oleh orang yang telah terbiasa dengan karakter-abjad tersebut, atau mereka yang sudah hafal Al-Qur’an. Seperti huruf bā’, tā’, tsā’, nūn’, dan yā’ yang dilambangkan dengan bentuk aksara yang serupa, tanpa titik (ٮ) untuk Kelima, macam aksara tersebut. Demikian pula abjad jīm, hā dan Khā yang ditulis tanpa titik (ح); abjad dāl dan dzāl ditulis د ; huruf rā dan zāy ditulis ر ; karakter sīn dan syīn ditulis س; dan lain-yang lain. Sehingga tidak mampu dibedakan antara abjad yang satu dengan yang yang lain, kecuali bagi orang yang sudah hafal atau pernah mempelajarinya secara verbal.
Untuk mengatasi kesulitan ini (membedakan aksara-aksara yang berlambang sama), Gubernur Irak, Al-Hajjaj bin Yusuf (714 M) menugaskan kepada Nashr bin Ashim (708 M) dan Yahya bin Ya’mur (747 M) – keduanya yakni murid Abul Aswad ad-Du’ali – untuk membubuhkan gejala pembeda antara huruf-huruf yang bersimbol sama. Dalam melaksanakan tugasnya, Nashr bin Ashim dan Yahya bin Ya’mur membubuhkan titik-titik diakritis untuk membedakan aksara-karakter yang bersimbol sama. Hasil dari karya mereka berdua maka jadilah bentuk abjad abjad Arab mirip yang kita kenal sekarang ini.
Setelah pembedaan karakter-aksara konsonan yang bersimbol sama telah akhir dijalankan, masalah lain yang muncul ialah, bagaimana membedakan antara tanda titik yang menawarkan syakal (yang dibentuk oleh Abul Aswad Ad-Du’ali) dengan tanda titik diakritis yang menawarkan jenis aksara (yang dibentuk oleh Nashr bin Ashim dan Yahya bin Ya’mur)?
Untuk menanggulangi persoalan ini, maka Al-Khalil bin Ahmad (718–786 M), melaksanakan penyempurnaan kepada karya Abul Aswad Ad-Du’ali dengan mengganti tanda titik yang menawarkan bunyi vokal ‘a’, ‘i’ dan ‘u’, masing-masing diganti dengan aksara-aksara layyin (alif, yā’ dan wāw).
Huruf-huruf tersebut ditulis dalam bentuk kecil pada posisi titi-titik tanda vokal yang digantikannya. Sehingga untuk suara vokal ‘a’ diberi tanda alif kecil di atas abjad ( -ا–), untuk bunyi vokal ‘i’ diberi tanda huruf ya’ kecil di bawah karakter ( –ى- ), dan untuk bunyi vokal ‘u’ diberi tanda abjad waw kecil di depan karakter (–و).
Dalam kemajuan selanjutnya, tanda vokal dalam bentuk huruf alif, yā’ dan wāw dipandang kurang efisien, maka digantilah abjad-aksara tersebut dengan tanda baris seperti yang kita kenal sekarang ini.