SMK Xaverius Palembang merupakan Sekolah Menengah Kejuruan (SMK) pertama yang didirikan oleh Yayasan Xaverius Palembang yang selama ini menyelenggarakan sekolah umum mulai tingkat TK, SD, SMP, SMA. Pada tahun 1996, Pengurus Yayasan Xaverius Palembang memandang perlu mendirikan sebuah satuan Pendidikan untuk memenuhi tuntutan masyarakat dan dunia kerja, yaitu dengan mendirikan sebuah Sekolah Menengah Kejuruan.

SMK merupakan sebuah satuan Pendidikan yang dapat menyiapkan satuan kerja terampil dan profesional. Oleh karena itu, Yayasan Xaverius mendirikan Sekolah Menengah Kejuruan Xaverius Palembang yang terletak di Semarang Borang Palembang. Lokasi letak SMK Xaverius Palembang ini terbilang cukup tepat karena populasi di daerah ini berkembang pesat sebagai kota satelit.

Pada awalnya, SMK Xaverius Palembang menempati ruang kelas SMP Xaverius 7 dan Bapak Drs. F. X. Suwarto sebagai Kepala SMK. SMK Xaverius Palembang memiliki tiga jurusan yaitu: Akuntansi, Administrasi Perkantoran dan Manajemen Bisnis. Setelah satu periode kepemimpinan Bapak Drs. F. X. Suwarto, digantikan Bapak Drs. Y. Susilo selama dua periode. Pada periode beliau SMK Xaverius Palembang terakreditasi dengan status diakui dan tidak menginduk pada sekolah lain.

Kemudian kepala sekolah dilanjutkan oleh Bapak Drs. N. Suseno pada Juli 2005. Jurusan yang ada di SMK pada saat kepemimpinan beliau adalah Akuntansi dan Administrasi Perkantoran yang akhirnya sama sama Terakreditasi A pada tahun 2013. Pada tahun Diklat 2013-2014, Bapak Ag. Sarjito, S.Pd, SMK Xaverius Palembang ini mulai memperlihatkan eksistensinya sebagai sekolah idaman. Gedung baru telah didirikan dengan adanya penambahan jurusan baru pula yaitu Teknik Komputer dan Jaringan. Lalu dilanjutkan oleh Ibu Christina Retno Lestari, S. E. sebagai Kepala SMK Xaverius Palembang. Selanjutnya Bapak Drs. N. Suseno kembali menjabat sebagai kepala sekolah hingga sekarang.

Saat ini SMK Xaverius Palembang sudah memiliki 4 jurusan yang menjadi unggulan yaitu Jurusan Akuntansi Keuangan dan Lembaga (AKL), Manajemen Perkantoran dan Layanan Bisnis (MPLB), Teknik Komputer Jaringan dan Telekomunikasi (TJKT), dan Desain Komunikasi Visual (DKV).

Fasilitas dan sarana prasarana yang ada semakin ditingkatkan, baik sarana penunjang akademik maupun pengembangan siswa, seperti Perpustakaan, Laboratorium Komputer, Lab TKJ, jaringan internet, dan lain lain. Untuk pengembangan kepribadian siswa, SMK Xaverius Palembang menyelenggarakan berbagai macam jenis ekstrakurikuler yang ada sekarang ini, telah menghantarkan SMK Xaverius Palembang meraih beragam prestasi bahkan dari tingkat daerah hingga nasional.