De Kleine bonte specht maakt een holte die niet groter is dan 3 tot 3,5 cm. Deze lijkt groter.
De lichaamslengte van een volwassen Kleine bonte specht bedraagt 14 tot 16 centimeter en de vleugelspanwijdte 25 tot 27 centimeter. De Kleine bonte specht geeft meer de voorkeur aan kleinere dode takken en twijgen vlak bij de grond. Heeft een voorkeur voor natte gebieden maar is ook te vinden in boomgaarden en een parkachtige omgeving. Onopvallend vogeltje dat je maar zelden te zien krijgt. Slechts zijn zang - een valkachtig 'kikiki'- verraadt hem. Verder onderscheidt de kleine bonte specht zich van zijn grotere broer door het ontbreken van de witte schoudervlekken en heeft het mannetje de rode vlek voor op het hoofd zitten in plaats van achter in de nek.
De snavel en poten zijn grijs gekleurd en de iris kastanjebruin. Het verenkleed is aan de bovenzijde overwegend zwart en aan de onderzijde wit met vage donkere streepjes. De vleugels zijn aan de bovenzijde duidelijk gebandeerd met brede, witte banen. De zwarte onderrug heeft smallere witte banen. Ook de staart is wit gebandeerd. Net als de meeste spechten heeft de kleine bonte specht staartpennen met stugge veerschachten, die extra ondersteuning bieden tijdens het klimmen. De kop is overwegend wit op de zijkanten en de keel. Vanaf de snavel loopt een zwarte baardstreep door tot halverwege de nek. Het voorhoofd is wit gekleurd, vaak met een gele tint.
De kleine bonte specht is duidelijk seksueel dimorf wat betreft de koptekening. Alleen het mannetje heeft een rode kruin, aan de zijkanten gebiesd met een zwarte streep. Het vrouwtje heeft een geheel zwarte kruin en is dus geheel zwart-wit gekleurd. Het juveniele mannetje heeft een roze vlek op de voorste helft van de kroon, bij het vrouwtje is deze plek donker of grijs gevlekt.
Buiten het broedseizoen voedt de kleine bonte specht zich voornamelijk met insectenlarven, die hij vooral op dunne dode takken van levende bomen zoekt. Tijdens het broedseizoen jaagt hij ook op kleine ongewervelden die op de oppervlakte van bast en bladeren leven, zoals bladluizen. Dit vormt ook het hoofdvoedsel voor de nestlingen.