Setelah kemerdekaan negara Republik Indonesia, pemerintah merasa perlu menyiapkan lembaga yang menangani masalah kebahasaan. Tahun 1947 berdasarkan pada Surat Keputusan Menteri Pendidikan, Pengajaran, dan Kebudayaan, Soewandi, Nomor 700/A, tanggal 18 Juni 1947, dibentuk Panitia Pekerja Bahasa Indonesia. Panita ini dipimpin oleh K.R.T. Amin Singgih Tjitrosomo. Namun, Panitia Pekerja ini belum sempat melaksanakan tugas dengan baik karena pusat pemerintahan pindah dari Jakarta ke Yogyakarta. Selain itu, ada alasan politis pada waktu itu, yaitu sebagian para ahli bahasa berpindah ke Yogyakarta.
Berdasarkan pada Surat Keputusan Menteri Pendidikan, Pengajaran, dan Kebudayaan Nomor 1532/A tanggal 26 Februari 1948, Balai Bahasa pertama didirikan di Yogyakarta dan diresmikan pada bulan Maret 1948 di bawah Jawatan Kebudayaan. Pada waktu itu Balai Bahasa dipimpin oleh A Dahler atau Amir Dahlan. Amir Dahlan tidak lama memimpin karena beliau wafat. Beberapa bulan kemudian, peristiwa yang memprihatinkan terjadi, yaitu ketika Belanda menyerbu Yogyakarta tanggal 19 Desember 1948. Akibatnya, naskah-naskah, buku-buku, alat tulis, dan perlengkapan lainnya banyak yang hilang.
Setelah Belanda meninggalkan Yogyakarta pada tanggal 13 Juli 1949, D. Martadarsana (Wakil Sekretaris Balai Bahasa) membuka kantor bahasa di rumahnya di Jalan Merbabu, Yogyakarta. Sebagai pejabat sementara, kantor bahasa ini dipimpin oleh R.T. Singgih Tjitrosomo. Namun, tidak lama kemudian R.T. Singgih Tjitrosomo wafat dan kepemimpinan diganti oleh Prof. Dr. Prijono.
Berdasarkan pada Surat Keputusan Menteri Pendidikan, Pengajaran, dan Kebudayaan Nomor 12869/Kab tanggal 28 Mei 1951, Balai Bahasa Yogyakarta harus pindah ke Jakarta dan menjadi bagian dari Fakultas Sastra Universitas Indonesia. Sejak saat itu Balai Bahasa berganti nama menjadi Lembaga Bahasa dan Budaya.
Pada tanggal 1 Mei 1951, Prof. Dr. Prijono diangkat sebagai Menteri Pendidikan, Pengajaran, dan Kebudayan, sehingga jabatan pimpinan Lembaga Bahasa dipegang oleh Prof. Dr. P.A. Hoesein Djajadiningrat merangkap sebagai Dekan Fakultas Sastra Universitas Indonesia. Lembaga Bahasa dan Budaya memiliki tiga cabang, yaitu (1) Cabang Yogyakarta dipimpin oleh Tardjan Hadidjaja; (2) Cabang Singaraja dipimpin oleh Dr. R. Goris; dan (3) Cabang Makassar dipimpin oleh Abdurahim. Pada tanggal 1 Agustus 1952, Lembaga Bahasa dan Budaya dibagi menjadi dua, yaitu (1) Lembaga Bahasa dan Budaya Cabang Yogyakarta dipimpin oleh Tardjan Hadidjaja dan (2) Jawatan Kebudayaan Bagian Bahasa dipimpin oleh Sumidi Adisasmita.
Berdasarkan pada Surat Keputusan Menteri Pendidikan, Pengajaran, dan Kebudayaan Nomor 69626/B/S tanggal 1 Juni 1959, Lembaga Bahasa dan Budaya diganti menjadi Lembaga Bahasa dan Kesusastraan. Sejak itu Lembaga Bahasa dan Kesusastraan dan cabang-cabangnya lepas dari Fakultas Sastra Universitas Indonesia dan langsung di bawah Departemen Pendidikan, Pengajaran, dan Kebudayaan.
Setelah Tardjan Hadidjaja purnatugas pada tahun 1960, pimpinan diganti oleh Tedjosusastro. Pada tahun 1966—1969, berdasarkan pada Surat Keputusan Presidium Kabinet Nomor 75/V/Kep/II/1966, tanggal 3 November 1966, Lembaga Bahasa dan Kesusastraan diganti menjadi Direktorat Bahasa dan Kesusastraan. Berdasarkan Surat Keputusan Menteri Pendidikan dan Kebudayaan Nomor 035/1969 Pemimpin Direktorat dijabat oleh Dra. S.W. Rudjiati Mulyadi. Pada tahun 1969 Direktorat Bahasa dan Kesusastraan diganti menjadi Lembaga Bahasa Nasional berdasarkan pada Surat Keputusan Menteri Pendidikan dan Kebudayaan Nomor 034/1969, tanggal 24 Mei 1969. Sejak 1 Januari—31 Desember 1970 karena Dra. S.W. Rudjiati Muljadi bertugas ke Leiden, Kepala Lembaga Bahasa Nasional dijabat oleh Drs. Lukman Ali.
Sementara itu, Lembaga Bahasa yang berada di Yogyakarta diberi nama Lembaga Bahasa Nasional Cabang II dan dipimpin oleh Drs. Mudjanatistomo dengan Surat Keputusan Menteri Pendidikan Dasar dan Kebudayaan Nomor 29989/C.II tanggal 8 Oktober 1963.
Selanjutnya, berdasarkan pada Surat Keputusan Menteri Pendidikan dan Kebudayaan, Nomor 0272/O/1978 tanggal 12 Agustus 1978, nama Lembaga Bahasa Nasional Cabang II diganti menjadi Balai Penelitian Bahasa. Pada tahun 1976 Drs. Mudjanatistomo bertugas ke Belanda, Balai Penelitian Bahasa, dipimpin oleh Dr. Soepomo Poedjosoedarmo.
Pada tahun 1977, Drs. Mudjanatistomo kembali ke Indonesia dan memimpin Balai Penelitian Bahasa lagi. Namun, tidak lama kemudian beliau wafat, pemimpin berikutnya dijabat oleh Dra. Wedhawati sebagai pejabat sementara dengan terbitnya Surat Keputusan Kepala Pusat Bahasa Nomor 0410/KEP/PB II/78 tanggal 27 Oktober 1978. Beliau menjabat dari tahun 1978 hingga tahun 1983. Tahun 1983 Dra. Wedhawati digantikan oleh Drs. M. Ramlan dengan terbitnya Surat Keputusan Menteri Pendidikan dan Kebudayan Nomor 79852/C/3/1982 tanggal 21 Oktober 1982. Beliau menjabat hingga tahun 1987.
Sejak awal Balai Penelitian Bahasa berdiri, tempat kegiatan (kantor) berpindah-pindah dan pernah bergabung dengan Lembaga Adat Istiadat dan Tjerita Rakjat. Pada tahun 1986, Balai Penelitian Bahasa Yogyakarta berhasil membeli tanah dan gedung peninggalan Belanda di Jalan I Dewa Nyoman Oka 34, Kotabaru seluas 1.741 m2. Pembelian tanah beserta gedung tersebut tertuang dalam Surat Keputusan Menteri Dalam Negeri Nomor SK 413/B/HGB/Prk.5/65 T.N., tanggal 24 Februari 1986, dengan nomor pembukuan 3067/1986.
Pergantian pejabat periode berikutnya, yaitu Drs. M. Ramlan diganti oleh Dr. Sudarjanto dengan Surat Keputusan Menteri Pendidikan dan Kebudayaan Nomor 56465/A2.I.2/C/1987, tanggal 29 Agustus 1987. Dr. Sudarjanto memimpin Balai Penelitian Bahasa Yogyakarta hingga April 1991. Berikutnya terjadi pergantian lagi, yaitu Dr. Sudarjanto diganti oleh Drs. Suwadji dengan terbitnya Surat Keputusan Menteri Pendidikan dan Kebudayaan Nomor 1129/A2.I.2/C/1992 tanggal 13 Januari 1992. Drs. Suwadji memimpin hingga tahun 2002. Pada masa kepemimpinan Drs. Suwadji, Balai Penelitian Bahasa berubah namanya menjadi Balai Bahasa Yogyakarta berdasarkan SK Mendikbud, Nomor 022/O/1999 tanggal 28 Januari 1999.
Setelah Drs. Suwadji memasuki purnatugas, pemimpin berikutnya, yaitu Drs. Syamsul Arifin, M.Hum. dengan terbitnya Surat Keputusan Menteri Pendidikan Nasional Nomor 2994/A2/KP/2003 tanggal 20 Februari 2003. Drs. Syamsul Arifin, M.Hum. memimpin Balai Bahasa Yogyakarta hingga 2006. Setelah Drs. Syamsul Arifin, M.Hum. memasuki purnatugas, Balai Bahasa Yogyakarta dipimpin oleh Drs. Tirto Suwondo, M.Hum. dengan terbitnya Surat Keputusan Menteri Pendidikan Nasionas Nomor 50174/A4.2/KP/2008 tanggal 8 September 2008. Pada tahun 2012, Balai Bahasa Yogyakarta berubah nama menjadi Balai Bahasa Daerah Istimewa Yogyakarta. Pada bulan Agustus tahun 2017, Drs. Tirto Suwondo, M.Hum. berpindah tugas ke Balai Bahasa Jawa Tengah dan Kepala Balai digantikan oleh Drs. Pardi, M.Hum. dengan Surat Keputusan Nomor 45403/A.A3/KP/2017 tanggal 28 Juli 2017. Drs. Pardi, M.Hum menjabat sampai dengan tahun 2020, tepatnya tanggal 12 Agustus 2020. Pada tanggal 12 Agustus 2020 sampai dengan 31 Januari 2021, Balai Bahasa Daerah Istimewa Yogyakarta dipimpin oleh Drs. Imam Budi Utomo, M.Hum. sesuai dengan Surat Keputusan Nomor 67757/MPK.A/RHS/KP/2020, tanggal 12 Agustus 2020. Pada tanggal 1 Februari 2021 berdasarkan Surat Keputusan Nomor 726/MK.A/KP.07.00/2022 tanggal 28 Januari 2022 Drs. Imam Budi Utomo,M.Hum. ditugaskan memimpin Pusat Pengembangan dan Pelindungan Bahasa dan Sastra yang merupakan eselon 2 daripada Badan Pengembangan dan Pembinaan Bahasa, Kementrian Pendidikan, Kebudayaan, Riset, dan Teknologi. Semenjak Drs. Imam Budi Utomo, M.Hum. berpindah tugas ke Jakarta, kepemimpinan Balai Bahasa Daerah Istimewa Yogyakarta yang telah berganti nama menjadi Balai Bahasa Provinsi Daerah Istimewa Yogyakarta diisi oleh Plt. Drs. Mulyanto,M.Hum. sesuai Surat Keputusan Nomor 0055/11/KP.08.00/2022, tanggal 2 Februari 2022. Plt. Drs. Mulyanto, M.Hum. menjabat pada tanggal 2 Februari—30 Mei 2022. Pada tanggal 1 Juni 2022 sesuai dengan Surat Keputusan Nomor 30766/MPK.A/RHS/KP.07.00/2022 tanggal 13 Mei 2022 , kepemimpinan Balai Bahasa Provinsi Daerah Istimewa Yogyakarta dijabat oleh Dra. Dwi Pratiwi, M.Pd. hingga sekarang (2023).
| No. | Waktu | Keterangan |
| 1. | 18 Juni 1947 | Pembentukan Panitia Pekerja Bahasa Indonesia sesuai Surat Keputusan Menteri Pendidikan, Pengajaran, dan Kebudayaan, Soewandi, Nomor 700/A, tanggal 18 Juni 1947 |
| 2. | 26 Februari 1948 | Pembentukan Balai Bahasa
(di Sekolah Guru Putri, Jalan Jati No. 2, Yogyakarta) sesuai Surat Keputusan Menteri Pendidikan, Pengajaran, dan Kebudayaan Nomor 1532/A tanggal 26 Februari 1948 |
| 3. | 28 Mei 1951 | Balai Bahasa dipindah ke Jakarta dan berubah nama menjadi Lembaga Bahasa dan Budaya serta menjadi bagian dari Fakultas Sastra Universitas Indonesia. Pembentukan cabang di Yogyakarta, Singaraja, dan Makasar. Surat Keputusan Menteri Pendidikan, Pengajaran, dan Kebudayaan Nomor 12869/Kab tanggal 28 Mei 1951 |
| 4. | 1 Agustus 1952 | Lembaga Bahasa dan Budaya dibagi menjadi dua, yaitu (1) Lembaga Bahasa dan Budaya Cabang Yogyakarta dan (2) Jawatan Kebudayaan Bagian Bahasa |
| 5. | 1 Juni 1959 | Lembaga Bahasa dan Budaya à Lembaga Bahasa dan Kesusastraan
(Departemen Pendidikan Pengajaran dan Kebudayaan) sesuai Surat Keputusan Menteri Pendidikan, Pengajaran, dan Kebudayaan Nomor 12869/Kab tanggal 28 Mei 1951 |
| 6. | 3 November 1966 | Lembaga Bahasa dan Kesusastraan à Direktorat Bahasa dan Kesusastraan (1966—1969) sesuai Surat Keputusan Presidium Kabinet Nomor 75/V/Kep/II/1966, tanggal 3 November 1966 |
| 7. | 24 Mei 1969 | Direktorat Bahasa dan Kesusastraan à Lembaga Bahasa Nasional
Untuk cabang Yogyakarta berubah nama menjadi Lembaga Bahasa Nasional Cabang II sesuai Surat Keputusan Menteri Pendidikan dan Kebudayaan Nomor 034/1969, tanggal 24 Mei 1969 |
| 8. | 12 Agustus 1978 | Lembaga Bahasa Nasional Cabang II à Balai Penelitian Bahasa sesuai Surat Keputusan Menteri Pendidikan dan Kebudayaan, Nomor 0272/O/1978 tanggal 12 Agustus 1978 |
| 9 | 24 Februari 1986 | Balai Penelitian Bahasa Yogyakarta berhasil membeli tanah dan gedung peninggalan zaman Belanda di Jalan I Dewa Nyoman Oka 34, Kotabaru seluas 1.741 m2 sesuai Surat Keputusan Menteri Dalam Negeri Nomor SK 413/B/HGB/Prk.5/65 T.N., tanggal 24 Februari 1986, dengan nomor pembukuan 3067/1986 |
| 10 | 28 Januari 1999 | Balai Penelitian Bahasa Yogyakarta à Balai Bahasa Yogyakarta sesuai SK Mendikbud, Nomor 022/O/1999 tanggal 28 Januari 1999 |
| 11. | 1999 | Pusat Pembinaan dan Pengembangan Bahasa à Pusat Bahasa
Di DIY à Balai Bahasa Yogyakarta sesuai SK Mendikbud, Nomor 022/O/1999 tanggal 28 Januari 1999 |
| 12. | 2010 | Pusat Bahasa à Badan Pengembangan dan Pembinaan Bahasa sesuai Perpres Nomor 24 Tahun 2010 tanggal 14 April 2020 tentang kedudukan, Tugas, dan Fungsi Kementerian Negara Serta Susunan Organisasi, Tugas, dan Fungsi Eselon I Kementerian Negara |
| 13. | 2012 | Balai Bahasa Yogyakarta à Balai Bahasa Provinsi D.I Yogyakarta sesuai Permendikbud Nomor 21 tahun 2012 tanggal 17 April 2012 tetang Organisasi dan tata Kerja Balai Bahasa di Lingkungan Kemendikbud |
| 14 | 2020 | Balai Bahasa D.I Yogyakarta à Balai Bahasa Provinsi D.I Yogyakarta sesuai Permendikbud Nomor 26 Tahun 2020 tanggal 26 Juni 2020 tentang Organisasi dan Tata Kerja Unit Pelaksana Teknis Kemendikbud |