"Punisher" sisaldab juba varem avaldatud singleid "Garden Song", "Kyoto" ja "I See You" ning on Bridgersi teine stuudioalbum pärast 2017. aastal ilmunud albumit "Stranger in the Alps".

Uuel albumil teevad kaasa Conor Oberst, Lucy Dacus, Julien Baker, Christian Lee Hutson, Nick Zinner, Blake Mills ja ansambli Bright Eyes muusik Nathaniel Walcott. Bridgers töötas albumi kallal koos kaasprodutsentide Tony Bergi ja Ethan Gruskaga.

Bridgers otsustas albumi avaldada üks päev plaanitust varem, et selle ilmumine ei satuks samale päevale orjanduse lõppemise aastapäevaga. Ta märkis Twitteri-postituses, et ei lükka albumi avaldamist edasi ajale, kuni olukord on n-ö normaliseerunud, sest ta ei arva, et olukord peaks normaliseeruma. Selle asemel innustab ta oma fänne tegema annetusi organisatsioonidele, mis võitlevad rassilise võrdsuse eest.

I'm not pushing the record until things go back to "normal" because I don't think they should. Here it is a little early. Abolish the police. Hope you like it.https://t.co/vmwERN0SOm

— traitor joe (@phoebe_bridgers) June 18, 2020

Pärast 2017. aasta debüütalbumit avaldas Bridgers 2018. aastal lühialbumi koos kollektiiviga boygenius, kuhu kuuluvad Lucy Dacus ja Julien Baker, ning möödunud aastal ilmus Bridgersil koostöös Conor Oberstiga moodustatud duo Better Oblivion Community Center nime alt samanimeline album.