Calvin Klein zsidó-magyar bevándorlók gyermekeként született a new york-i Bronxban. Már az egyetemen is divattervezést tanult, de tanulmányait nem fejezte be. Miután otthagyta az iskolát, kisebb márkák számára tervezett ruhákat. 1968-ban egy gyerekkori barátjával együtt megalapították a Calvin Klein Ltd.-t. Berry Schwartz, Klein partnere inkább az anyagi részében segített, míg Klein volt a kreatív agy a csapatban. A cég megalapítása utáni évben már túl is voltak az első divatbemutatón, ami hatalmas siker volt. Ezután egyre több ajtó nyílt ki a brand előtt, és mindenki megismerte a Calvin Klein nevet.
Természetesen Klein is hamar rájött, hogyan lehetne még népszerűbbé tenni a márkát. A billboardok után elhatározta, hogy ő is készít egy tv reklámot, amelyhez a 15 éves Brooke Shields-et kérte fel. A kampány a siker mellett hatalmas port kavart, hiszen elhangzott a ma már híres mondat: „You want to know what comes between me and my Calvins’? Nothing!” Mivel ezzel a pár szóval rejtetten azt fejezték ki, hogy a kiskorú színésznő nem visel alsóneműt, ezért a közönség fel volt háborodva. A botrány viszont megérte, hiszen az eladási számok az egekbe szöktek.
Bár a márka először farmernadrágokat gyártott, lassan elkezdett betörni a kozmetikai és a fehérnemű piacra is. Később lifestyle ruhákkal, kiegészítőkkel, majd sportruházattal is elkezdtek foglalkozni. Ma az egyik prémium piacvezető márkának számítanak. A reklámkampányok ma is méltán híresek, hiszen olyan sztárok szerepelnek bennük, mint Justin Bieber, a Kardashian-klán, Jake Gyllenhaal, Jamie Dornan, és még sokan mások.