Asal tahu saja, Rudiantara pernah malang melintang di industri telekomunikasi. Rudiantara memulai karier pada tahun 1996 di Indosat sebagai General Manager Business Development.
Dirinya juga pernah menjadi Chief Operating Officer PT Telekomindo Primabhakti sejak 1996 dan menduduki beberapa jabatan eksekutif selama 11 tahun di Indosat dan Telkomsel hingga 2006. Dirinya menjabat sebagai Wakil Presiden Direktur PT Semen Gresik (Persero), Presiden Direktur dan CEO PT Bukit Asam Transpacific Railways dan PT Rajawali Asia Resources.
Rudiantara juga pernah menjadi Wakil Presiden Direktur PT Perusahaan Listrik Negara (Persero) sejak 2008 dan kemudian menjadi Direktur Hubungan Korporat PT XL Axiata Tbk dari Maret 2005 hingga 2008, lalu sebagai Direktur Penjualan dan Pemasaran untuk Solusi Bisnis pada Juni 2003.
Dirinya juga sempat menjadi Presiden Komisaris PT Rukun Raharja sejak 11 Juni 2014. Ia juga Komisaris Independen PT Indosat Tbk sejak 1 November 2012.