Teoria spektralna (Matematyka)