Peder Bang var biskop i Roskilde fra 1254. Han tog sin morbror ærkebiskop Jakob Erlandsens parti under de voldsomme stridigheder mellem konge og kirke og måtte ligesom ærkebispen gå i eksil 1259. Bang deltog samme år i den vendiske fyrst Jarimars invasion af Sjælland. Han beordrede som Københavns byherre borgerne til at overgive byen til Jarimar, men da de nægtede, blev byen ødelagt. Han levede herefter fortsat i eksil indtil 1274, da han forsonedes med kronen og atter vendte tilbage som biskop.