Terdapat kekeliruan berterusan mengenai hubungan Pāḷi dengan bahasa vernakular yang dituturkan di kerajaan purba Magadha, yang terletak di wilayah Bihar kini. Bermula dalam ulasan Theravada, bahasa Pali dikenal pasti sebagai bahasa ‘Magadhi’, bahasa kerajaan Magadha, dan ini dianggap juga sebagai bahasa yang digunakan oleh baginda Buddha semasa hayatnya. Pada abad ke-19, seorang orientalis British bernama Robert Caesar Childers berhujah bahawa nama sebenar atau geografi bagi bahasa Pali ialah Magadhi Prakrit, dan kerana pāḷi bermaksud “garisan, barisan, rentetan”, maka penganut Buddha awal memperluas makna istilah itu kepada “rentetan buku”, maka pāḷibhāsā bermaksud “bahasa teks”.
Namun, kajian moden menganggap bahasa Pali sebagai campuran beberapa bahasa Prakrit sekitar abad ke-3 SM, digabungkan dan sebahagiannya disanskritkan. Tiada loghat Indo-Arya Pertengahan yang dibuktikan mempunyai semua ciri bahasa Pali. Pada era moden, perbandingan dapat dibuat antara bahasa Pali dengan inskripsi yang diketahui dalam bahasa Magadhi Prakrit, serta teks dan tatabahasa bahasa tersebut. Walaupun tiada sumber sedia ada yang mendokumentasikan bahasa Magadhi pra-Ashoka secara khusus, namun sumber yang ada menunjukkan bahawa bahasa Pali tidak boleh disamakan dengan bahasa itu.
Sarjana moden umumnya berpendapat bahawa Pali berasal daripada loghat Barat, bukan loghat Timur. Bahasa Pali mempunyai persamaan dengan inskripsi batu Junagadh milik Rudradaman di Kathiawar dan bahasa Prakrit Tengah-Barat yang ditemui dalam inskripsi Hathigumpha di timur. Persamaan ini mendorong sarjana mengaitkan bahasa Pali dengan wilayah India Barat. Walau bagaimanapun, bahasa Pali masih mengekalkan beberapa ciri loghat Timur yang disebut sebagai Māgadhisme.
Sebagai bahasa Indo-Arya Pertengahan, bahasa Pāḷi berbeza daripada bahasa Sanskrit dari segi asas loghat berbanding kronologi asal usulnya. Beberapa ciri morfologi dan leksikalnya menunjukkan bahawa ia bukan kesinambungan langsung daripada bahasa Sanskrit pada zaman Ṛgveda. Sebaliknya, ia berasal daripada satu atau lebih loghat yang, walaupun mempunyai banyak persamaan, namun berbeza pula dengan bahasa Sanskrit pada zaman Ṛgveda.
