Bahkan, Purbaya mengancam akan memecat pegawai Bea Cukai yang kedapatan masih nongkrong di ruang publik sambil membicarakan bisnis pribadi.
Sebagai informasi, langkah pembersihan di Kemenkeu telah dimulai secara masif. Pada awal masa jabatannya, Purbaya pernah mengonfirmasi bahwa 26 pegawai Kemenkeu telah dicopot karena terbukti melakukan pelanggaran disiplin dan penyalahgunaan wewenang, sebagian besar berada di bawah DJP dan DJBC. Pemecatan ini menjadi peringatan keras bagi seluruh aparat Kemenkeu.