Louis Davids werd geboren in Rotterdam als zoon van de komiek en caféhouder Levie David en Francina Terveen (overleden in 1927) in een arm Joods gezin van acht kinderen. Zijn ouders traden op met komische duetten, en Louis zong als 8-jarige al op kermissen met zijn broer Hakkie op de piano. Tot rond zijn 13de trad Louis vaak met zus Rika op in Rotterdam, ook buiten de kermis. Na een ruzie met zijn vader ging hij als goochelaarshulpje mee naar Engeland, maar kwam een jaar later en een illusie armer maar een pak ervaring in variététheater rijker weer naar huis. Met zijn zus Rika wist hij zich een plaats te veroveren buiten de kermiswereld (theater Pschorr) met onder andere Een reisje langs den Rijn en We gaan naar Zandvoort aan de zee. Ze gingen naar Amsterdam waar Davids met de theaterdirecteur Frits van Haarlem in Carré met veel succes een revue naar Engels voorbeeld opzette; Louis' naam was daarmee gemaakt. Hij zette het revuesucces in 1909 voort in het gezelschap van Henri ter Hall.

Toen Rika de Engelse goochelaar John Weil ontmoette, trouwde ze, ging naar Engeland en stapte uit het duo. Louis vormde na een mislukte poging om als goochelaar zijn brood te verdienen uiteindelijk opnieuw een duo, ditmaal met zijn jongere zus Henriëtte (Heintje). Ook het tweede duo Davids werd een succes. De echtgenoot van Heintje, Philip Pinkhof, schreef voor de revues waar de beide Davids in speelden.
Louis trouwde in 1906 met Rebecca Kokernoot met wie hij een dochter kreeg, maar niet gelukkig was. Tijdens een tournee maakte hij kennis met de artieste Margie Morris die in 1913 naar Nederland kwam. Tot 1922 vormden Louis en Margie het duo "He, She and the piano" waarvoor Margie meestal als componist tekende. Het komische repertoire werd langzamerhand uitgebreid met het levenslied. Een bekend stuk uit die periode is De Jantjes dat ook als 'stomme film' werd uitgebracht in 1922, en als sprekende film in 1934. Tussen 1922 en 1926 was Davids directeur van het Casino-theater in Rotterdam maar het directeursvak kom hem niet blijven boeien.
In 1929 stond Louis Davids in de revue Lach en vergeet met het lied dat waarschijnlijk zijn bekendste werd: De kleine man. Het was geschreven door Jacques van Tol met wie Davids tot zijn dood in 1939 bleef samenwerken. Hij en Van Tol kwamen overeen dat Van Tol anoniem zou blijven als tekstdichter van vrijwel alle teksten van Davids na 1929.
Ondanks zijn Rotterdamse afkomst was Davids een geliefd vertolker van het Amsterdamse Jordaan-repertoire. Davids stond aan de wieg van de carrière van een aantal grote namen als Wim Kan en Corry Vonk, Wim Sonneveld en het Cabaret Ping Pong.
In 1937 moest Louis Davids zijn werk bij het Kurhaus-cabaret opgeven vanwege astma. Zijn vrij onverwachte dood op 55-jarige leeftijd werd mede veroorzaakt door astma. Davids werd gecremeerd in Driehuis. Zijn as is in een columbarium van het crematorium bijgezet. De resten van zijn zwager Rido en zijn zuster Heintje Davids werden later bij hem geplaatst.