Pada Pilkada Kabupaten Belitung Timur 2005, ia berhasil menjadi Bupati dengan dipasangkan Wakil Bupatinya Khairul Effendi.
Ia juga sempat mengikuti pemilihan Gubernur pada tahun 2007 tapi tidak menang. Setelahnya ia melenggang lagi menjadi anggota DPR RI pada periode 2009-2014.
Setelah itu, pada tahun 2012 ia maju menjadi Wakil Gubernur DKI berpasangan dengan Joko Widodo. Kemudian, ia naik pangkat menjadi Gubernur DKI usai Jokowi meletakkan jabatannya dan dilantik menjadi Presiden RI tahun 2014.