Kariernya mulai menanjak hingga 1993 ia ditunjuk menjadi Kepala Biro Humas Serwilda Tk I. Pada Pilkada 1994, SYL terpilih sebagai Bupati Gowa hingga 2002.
Tak selesai di level bupati, Syahrul menjajal dunia politik lebih keras lagi di Pemilihan Gubernur. Namun ia mengawali sebagai Wakil Gubernur Sulawesi Selatan mendampingi Amin Syam.
Pada Pilkada 2007, SYL mengikuti Pilgub berpasangan dengan Agus Arifin Nu'mang. Sementara lawannya adalah Gubernur Petahana, Amin Syam yang berpasangan dengan Mansyur Ramli dan Aziz Qahhar Mudzakkar-Mubykl Hanadaling
SYL-Agus Arifin dinyatakan menang setelah memperoleh 39,53 persen suara. Pasangan Amin Syam-Mansyur Ramli meraih 38,76 persen suara, sementara Aziz-Mubykl memperoleh 21,71 persen suara.
Resmi dan dilantik menjadi Gubernur Sulsel pada 8 April 2008, SYL dianggap cukup berhasil di periode pertamanya menjabat. Ia fokus mendorong Sulsel sebagai provinsi penyangga beras untuk nasional.
Pada 2009, pertumbuhan ekonomi Sulsel naik menjadi 7,8 persen. Angka tersebut dipicu adanya pertumbuhan produksi jagung yang dimanfaatkan dengan ekspor ke Malaysia dan Filipina.
Selain bahan makanan, bahan bangunan seperti marmer cukup unggul di provinsi tersebut. Bahan bangunan ini pun diekspor ke Malaysia, Amerika Serikat dan Australia.
Cukup sukses di Sulawesi Selatan, setelah lengser dari kursi Gubernur pada 2018, SYL ditunjuk Jokowi menjadi Menteri Pertanian pada 23 Oktober 2019-2024. Ia menggantikan Amran Sulaiman yang juga merupakan putra asli Sulsel.