Στις 6 Ιανουαρίου του 1980, ο αδελφός του, Πιερσάντι Ματαρέλα, περιφερειάρχης της Σικελίας, δολοφονήθηκε από την Κόζα Νόστρα, εξαιτίας της ισχυρής στράτευσης κατά του οργανωμένου εγκλήματος.

Η ενασχόληση του Σέρτζιο Ματαρέλα με την πολιτική αποτελεί σε μεγάλο βαθμό συνέπεια της τραγικής αυτής δολοφονίας. Εξελέγη βουλευτής (1983 - 2008), αρχικά με την προοδευτική πτέρυγα της Χριστιανικής Δημοκρατίας, κατόπιν με το Ιταλικό Λαϊκό Κόμμα και τη Μαργαρίτα.

Ιταλικά μέσα ενημέρωσης επισημαίνουν ότι ο Ματαρέλα ασφαλώς δεν θα μπορούσε να συμπεριληφθεί στους «πολιτικούς οι οποίοι πρόσκεινται στον Σίλβιο Μπερλουσκόνι», καθώς το 1990 είχε παραιτηθεί από το θώκο του υπουργού Παιδείας της κυβέρνησης Αντρεότι, σε ένδειξη διαμαρτυρίας για την έγκριση του νόμου που χορήγησε επίσημα την άδεια για να αποκτήσουν εθνική εμβέλεια τα τρία τηλεοπτικά κανάλια του.

Το 1993 ήταν ο εισηγητής του νέου εκλογικού νόμου – που ονομάσθηκε, ακριβώς, Mattarellum. Έπειτα από τη σχετική υπόδειξη λαϊκού δημοψηφίσματος, ο νόμος προέβλεπε ότι για τα τρία τέταρτα των εδρών θα ίσχυε ενισχυμένη αναλογική και για το υπόλοιπο τέταρτο απλή αναλογική.

Το 1994, μετά την διάλυση της Χριστιανικής Δημοκρατίας, ο Σέρτζιο Ματαρέλα συμμετείχε στην ίδρυση της κεντρώας πολιτικής δύναμης Ιταλικό Λαϊκό Κόμμα. Το 1995 στήριξε την υποψηφιότητα του Ρομάνο Πρόντι ως επικεφαλής της κεντροαριστερής συμμαχίας της Ελιάς. Από το 1998 μέχρι το 1999 χρημάτισε αντιπρόεδρος της κυβέρνησης, επί πρωθυπουργίας του Μάσιμο Ντ' Αλέμα.

Στην συνέχεια ανέλαβε το υπουργείο Άμυνας, επί των ημερών της δεύτερης κυβέρνησης Ντ' Αλέμα, διατηρώντας την θέση αυτή και επί των ημερών της κυβέρνησης του σοσιαλιστή Τζουλιάνο Αμάτο. Η απόφαση για κατάργηση της υποχρεωτικής θητείας στις ιταλικές ένοπλες δυνάμεις και για σύσταση επαγγελματικού στρατού, φέρει την υπογραφή του.

Το 2007 συμμετείχε στην συγγραφή της ιδρυτικής διακήρυξης αξιών του κεντροαριστερού Δημοκρατικού Κόμματος καιτο 2008, αποφάσισε να μην ξαναθέσει υποψηφιότητα στις βουλευτικές εκλογές.

Σύμφωνα με το protothema.gr το 2011 αναδείχθηκε από το ιταλικό κοινοβούλιο ανώτατος δικαστής του Συνταγματικού Δικαστηρίου της χώρας, ενώ το όνομά του συμπεριελήφθη στις προτεινόμενες υποψηφιότητες και κατά την διάρκεια των διαβουλεύσεων για την εκλογή του προέδρου της Δημοκρατίας, τον Απρίλιο του 2013 – όταν επανεξελέγη όμως τελικά ο Τζόρτζιο Ναπολιτάνο.