锡菲联成立于1889年，在成立首三十年是球会最黄金时代，曾于1898年夺得顶级的甲组联赛冠军，是球会至今唯一一个顶级联赛锦标，同时在1897年和1900年两夺甲组联赛亚军，亦在1899年至1925年期间四次夺得足总杯冠军。锡菲联在1934年首次降至次级联赛英乙，之后五十多年长期浮沉于顶级英甲及次级英乙联赛之间，1981年锡菲联一度降班至第四级的丁组联赛，至1990年回升至顶级甲组联赛。
雪菲尔联是英超的创会成员，更是攻入英超首个入球的球队。但好景不常，球队在英超只渡过了两个赛季，于1994年降班，及后一直在第二级联赛角逐，虽曾于1997年及2003年晋身升班附加赛决赛，但都功亏一篑。直至2006年夺得英冠亚军，重返英超。但球队在2007年以些微的得失球差被韦根压过，排联赛十八名，仅一季后又再降回英冠。其后更于2011年再度降班到第三级的英甲作赛。2017年，球队夺得英甲冠军，相隔六季重返英冠作赛。2019年，球队夺得英冠亚军，相隔十二季终于重返英超。球队于重返英超的首个球季表现良好，排联赛第九名，为首次能够晋身英超前半页。
但第二季随即陷入开季八连败与连续十七场不胜，打破英超开季连续不胜纪录，最后球队完成32轮联赛后仅得14分(4胜2和16败)，提早六轮联赛宣告降级。
2023年，锡菲联第三度夺得英冠亚军，2023/24年度球季再次重返英超作赛，然而该季锡菲联表现不济，整季联赛更是3胜7和28败得16分，提前三轮联赛确定降级，亦是英超历来取得积分第三最低。同时锡菲联整季得失球差为-69球，平了2007-08年球季打比郡创下英超得失球差的最差纪录，该季锡菲联失球达104球，亦打破英超球队一季内最多失球的纪录。