Setelah lulus, Ma dipekerjakan oleh China Motion Telecom Development, Ltd. Dia bekerja di pengembangan sistem paging Internet, yang bertanggung jawab atas penelitian dan pengembangan. Perusahaan ini memasok sistem tersebut kepada pemerintah China.
Setelah itu, dia melanjutkan kariernya di Shenzhen Runxun Communications Co., Ltd., di mana dia juga bekerja untuk research dan development. Dia mengawasi sistem panggilan iInternet. Ma meilihat, bahwa masyarakat China telah siap untuk memiliki layanan IM-nya sendiri. Atas dasar itulah, dia dan empat temannya mendirikan Tencent pada 1998.
Mereka membangun perusahaan dengan bermodal USD120.000, yang diperoleh dari pasar saham. Tahun-tahun pertama mendirikan perusahaan itu, Ma harus merangkap begitu banyak jabatan, dari petugas kebersihan sampai perancang situs web, karena perusahaan tersebut tidak memiliki karyawan dan kesehatan finansial yang baik.
Dalam beberapa tahun, Tencent menambahkan lebih banyak karyawan dan Ma mulai memusatkan perhatian pada perencanaan strategis, penentuan posisi, dan manajemen perusahaan. Dia akhirnya menjadi chief executive officer, executive board member, dan chairman the board.
Pada 1999, Tencent meluncurkan produk yang akan memberinya banyak kesuksesan dan kekayaan. Setelah awalnya berfokus pada produk pesan teks, dia menawarkan layanan pesan instan, yang awalnya disebut OICQ, namun kemudian dikenal sebagai QQ. Awalnya, OICQ hanyalah salah satu dari banyak layanan IM di China dan tidak memiliki pangsa pasar yang besar.