Sály története a honfoglalás után kezdődött el. Történeti emlékeink szerint Árpád vezér főembereivel a Hejő vize mellett ütött tábort. Ezután Árpád vezér és nemesei a mai Sályi patakig vonultak és tábort ütöttek. Itt Árpád nagy földet adott Őrsúr apjának Ócsádnak. Örsúr aztán ott, a folyó forrásánál várat épített, amelyet ma Örsúr várának hívnak. E köré a vár köré épült az első falu, majd a népesedés miatt az utódok a völgyekbe húzódtak és kisebb falvakat hoztak létre. Így jött létre Sály is, amely valószínűleg a Saul utónévből származik.

Sály első említése 1348-ra tehető. De mire Sály oklevélbeli szereplése megtörténik már túl vagyunk a tatárjárás pusztításán. A sályi református egyház 1581-ben alakult meg, de a török pusztítás nem engedte kibontakozni azt a fejlődést, amit az egyház hozott magával (falusi iskola). 1596-ban élte át Sály népe történelme legnagyobb pusztulását. Eger eleste és a szerencsétlen kimenetelű mezőkeresztesi csata után a vármegye déli felét, így Sályt is elpusztította a török. Sály felégetése ősszel történt. A megmaradt lakosság hajlék és élelem nélkül maradt. Állítólag a Tarizsa-hegy oldalába vágott pincelakásokban húzódtak meg. Évtizedeken át nem is mertek visszatérni lerombolt házaikba, a még mindig portyázó török csapatok támadásától tartva. Sály is, mint a többi falu nem önálló ezekben az időkben nemesi családok birtokát képezi.

Sály utolsó örököse Sályi Tibold Zsigmond volt, aki feleségül vette a fiatal Kakasfalvi Csuda Zsuzsánnát Ő férje halála után másodszor is férjhez ment Négyesi Szepessy Pálhoz. Ők ketten megpróbálták talpra állítani a kicsi falut, de Négyesi Szepessy Pál közéleti tevékenysége igen lefoglalta (országgyűlés vármegyei követe), emiatt felesége vette át az ügyek intézését. Az 1700-as években járunk Szepessy Pál menekülni kényszerül Erdélybe nézetei miatt. Thököly Imre kuruc vezér mellett is harcolt. De már nem éli meg a Thököly szabadságharcának bukását. Ez idő tájt a Szepessy birtok ide-oda kerül, hol elkobozzák, hol pedig visszaszerzik a jogos tulajdonosok. Végül az ifjú Szepessy Pálnak váltságdíjként sikerül visszavennie földbirtokát, ezáltal Sályt is. 1711-ben meghal Kakasfalvi Csuda Zsuzsánna, aki a néphagyomány szerint a sályi református templom úrasztala alatt lévő sírboltban van eltemetve.

Sályt Szepessy János örökölte, aki újjáépítette 1713-ban a templomot, és haranggal ajándékozta meg. Sályban főképp földműveléssel foglalkoztak az emberek. Ló csekély, de szarvasmarha, ökör, juh, kecske, sertés elég jelentős számban volt jelen a településen. János fia László igen szigorú jobbágyaival szemben, sőt ősei hitét elhagyva katholizál és hűséges embere lesz a bécsi udvarnak. Mária Teréziától bíróságot is kap. És ezáltal lett Urbáriuma is a sályi népnek. Ez azért is jelentős dokumentum, mert ebben névszerint felsorolták a 105 jobbágycsaládot, valamint ez hiteles névsor volt a sályi jobbágyokról. 1769-ben kezdte el vezetni a sályi református egyház az anyakönyvet. 1766-ban említik meg a falu első tanítóját.

Az XVIII. sz. végén épül fel a három nevezetes kastélya Sálynak a Szepessy László által átépíttetett kastély, valamint az Eötvös- és a Fáy-kastély. A XX. századra a birtokos családok elszegényedtek és kihaltak. Csak két nagybirtok maradt a Gorove Lászlóé (a volt Eötvös bírtok) és a Knöpl Annáé. (a Seckendorf, megelőzően a Négyesy Szepessy bírtok). A falu lakossága rohamosan nőtt, 1924-ben 2083 lélekszámú.

1873. február 21-én leég a községháza felújítására a megye ad kölcsönt. 1889-ben megalakítják Sályban a tűzoltó szervezetet.
1891. népszámlálás 1895-ben kérvényezik, hogy postaállomást állítsanak fel 1896-ban megünneplik a Milleneumot.

Majd 1914-ben kitör az I. világháború. Súlyos gazdasági válság következik be, nincs ára a búzának, olcsó a munkaerő, nagy a munkanélküliség. A harmincas évek második felében némi javulás látszik, de 1939-ben kitör a II. világháború.

1944 novemberében két hétre hadszíntér is volt a falu, november 19-én szabadul fel a fasiszta megszállás alól. És ezután kezdődött el Sály történetének újabb korszaka.

1960-ban megalakult a Tsz., ezen felül palackozó üzem, gépállomás, gyógyszerüzem is működött a településen. Az egészségügyi ellátás javult, 1985 -től új egészségügyi komplexum valósult meg, mely helyt ad a háziorvosi, védőnői alapellátás gyakorlására. A komplexum 2 szolgálati lakást is tartalmaz. óvoda létesült. Ekkor érkezik Sályba a vezetékes elektromos áram is.

1989-ben a Bükkalja Mg. Tsz megszűnt. Ezáltal a községben jelentős számban munkanélkülivé váltak az emberek.  A 90-es évektől  megkezdődött a falu infrastruktúrájának kiépítése, mely óriási erőfeszítések árán valósult meg. 1991-től CROSSBÁR hálózat is megvalósulhatott , mely évről évre folyamatosan bővült mára már a lakosság 90 %-a rendelkezik vezetékes telefonnal. 1992-ben a községben a földgáz kiépítése megtörtént.

A községben található a latori vízfőforrás, mely a község ivóvízellátása mellett több dél borsodi település vízellátását is biztosítja. Ezért környezetvédelmi szempontokból is szükségessé vált a szennyvíztisztító rendszer kiépítése.  Első ütemben a hordott szennyvíztisztító telep valósulhatott meg. Második ütemben a csatornahálózat szennyvíztisztító telepe jött létre. E nagy beruházás 3-4 ütemében valósult meg a csatornahálózat 1998-ban.  A csatornahálózat átadását követően került sor az önkormányzati utak helyreállítására ill. kiépítésére. Az útépítés azóta is folyamatos, melyet pályázati lehetőségek kihasználásával tud megvalósítani az önkormányzat.

A latori vár környékén ásatásokat végeztek a régészek. Az ásatások során sok értékes leletre bukkantak, és sok mindet tudtak meg a középkorban élők életkörülményeiről és világnézeteiről.

A 70-es években avarkori sírokra leltek az egyik szőlőtelepítés során, melynek egy részét feltárták. Az itt talált leletek néhány darabja megtekinthető a sályi Gárdonyi Géza Honismereti Házban is.