Az elmúlt több mint 40 éveben a Kool & the Gang folyamatosan játszott, hosszabb ideig, mint bármelyik együttes az R&B történetében. Bombabiztos funk és jazzy előadásmódjuk minden idők leginkább mintául szolgáló együttesévé avatta őket.
1964-ben Khalis Bayyan (más néven Ronald Bell) és testvére, Robert “Kool” Bell csatlakozott Jersey City-i szomszédjaikhoz és barátjaikhoz Robert “Spike” Mickenshez, Dennis “Dee Tee” Thomashoz, Ricky Westfieldhez, George Brownhoz és Charles Smith-hez, hogy egyedi, a jazz, a soul és a funk keverékét játszó együttest alakítsanak. Először Jazziacs néven szerepeltek, majd jó pár variáció – The New Dimensions, The Soul Town Band, Kool & the Flames – után horgonyoztak le végső nevüknél. Ezt követően éveken át, míg valóban összeérett a hangzásuk, a keleti parti nyers zenei életben szerepeltek olyan előadók mellett, mint Bill Cosby, Ritchie Havens és Richard Pryor.
Saját nevüket viselő, debütáló albumuk 1969-ben jelent meg, megismertetve jellegzetes instrumentális előadásmódjukat, szenvedélyes fúvós hangszerelésüket, amelynek köszönhetően a Kool & the Gang, majd később a Let the Music Take Your Mind feljutott a Billboard R&B kislemez listájára.
1970-ben merész hangvételű második, élő albumuk, a Live at the Sex Machine a 6. helyet érte el a Billboard R&B listáján, három olyan sikerrel, mint a Funky Man, a Who’s Gonna Take the Weight, és az I Want to Take You Higher. Ezeket követte a The Best Of Kool & the Gang Featuring The Penguin, a Kool & the Gang Live at PJ’S, a Music Is The Message és a Good Times, amelyeknek mind nagy szerepük volt a végleges hangzás kialakításában, és amelyért nem csak a közönség lelkesedett, hanem olyan kortársak is, mint James Brown és Nina Simone.
A csapat ismertsége és elismertsége meredeken emelkedett minden egyes albumukkal, de 1973-as aranylemezük, a Wild & Peaceful újabb szintre emelte a Kool & the Gang-et (6. hely az R&B, 33. a poplistán), a halhatatlan party himnuszokkal; a Funky Stuffal és a Hollywood Swinginggel, valamint a platina siker Jungle Boogie-val. Ezután aratott a Higher Plane (1. hely az R&B listán), a klasszikus Summer Madness (ez szerepelt a Rocky Grammy-díjas filmzenei albumán) és a Spirit of the Boogie, a Love & Understanding, illetve az ezt követő Open Sesame nagylemez. Utóbbi címadó dala szerepelt a Szombat esti láz csúcssikert arató filmzenei albumán, meghozva az együttes második Grammy-jét.
1979-ben a Kool & the Gang a Ladies Night-tal egy új, letisztult hangzással jelentkezett. A producer a legendás jazz-pop zenész Eumir Deodato volt, s ez lett első platina albumuk. Az R&B listán első helyre jutó címadó szerzemény a poplistán is a 8. helyig jutott. Majd következett a Too Hot – 3. hely az R&B-n, 5. a popon. A 80-as évek a mainstreamben hozta a dominanciát számukra, kezdve a dupla platina album Celebrate-tel (amelyet a hatalmas világsláger, a Celebration vitt sikerre, hat hetet töltve az R&B listán, 1. helyre jutva a pop single-ek között). Az pedig világszerte örökre emlékezetes marad, amikor a Celebrationt eljátszották az Iránból kiszabadított amerikai túszok hazaérkezésekor. Majd jöttek azok a sikerek – a Get Down On It, a Take My Heart, a Let’s Go Dancing, a Joanna, a Tonight, a Misled, az R&B listavezető és 2. poplista helyre jutó óriási Cherish, illetve az 1. R&B helyes himnusz, a Fresh (utóbbi három dal a többszörös platina album Emergency-ről) –, amelyek végleg nemzetközi állócsillaggá avatták az együttest.
A Kool & the Gang számtalan nemzetközi felajánlást tett, támogatott jótékonysági akciókat, és egyetlen amerikai együttesként részt vett a Band Aid 1984-es „Do They Know It’s Christmas” projektjében az éhező afrikaiakért.
A hip-hop 90-es évekbeli robbanásával a Kool & the Gang hihetetlen mennyiségű groove zenéje a DJ-k kedvencévé tette őket. Közvetlenül az R&B ikon James Brown mögött tartották számon őket a rap zene forrásaként.
A 2004-es The Hits Reloaded többek között Lil’ Kim, Sean Paul, Ashanti és a Blackstreet közreműködésével született.
A csapat a Billboard R&B listájára a 2006-os Steppin’ Into Love-val tért vissza. Ugyanebben az évben a Kool & the Gang a lemezkereskedők nemzeti szövetsége jóvoltából NARM Chairman Award-ot kapott a fennállásuk óta eladott lemezeik rekordmennyiségéért.
2007 júliusában a New Door Records/UME gondozásában jelentkeztek új stúdióalbumukkal, a Still Kool-lal. Majd 2009-ben a csapat történelmet írt; egyike volt azon kevés amerikai előadónak, aki az elmúlt években fellépett Kubában, ingyenes, szabadtéri koncertjükkel ledöntve a kulturális határokat Havannában. A 2012-es év pedig egy 52 várost érintő, hallatlanul sikeres turnéról szólt Van Halennel közösen.
A Kool & the Gang azóta is rendületlenül szórakoztatja régi és új rajongóit a világ minden pontján.