De Grote bonte specht komt even buiten kijken voordat hij (een mannetje) weg vliegt.
Net als alle spechten is de grote bonte specht een holenbroeder. De nestholte wordt aan het einde van een kalenderjaar door het mannetje uitgehakt in een zachtere houtsoort van een volgroeide boom. Hij vertoont geen voorkeur voor een bepaalde boomsoort en maakt het nest in zowel naald- als loofbomen. Ook oude nestholtes worden soms gebruikt, al nestelt de grote bonte specht nooit in een nestkast. De nestholte is doorgaans vijftien tot dertig centimeter diep en heeft een met houtsnippers beklede bodem.
Wanneer een mannetje rond december een nieuwe nestholte heeft uitgehakt of een oude heeft uitgekozen, begint hij met zijn geroffel die dient als hofmakerij. Als een vrouwtje in het territorium deze roffel beantwoordt, volgt er verder baltsgedrag. Deze omvat onder andere dreigende bewegingen, zoals het opzetten van de kopveren.
In april en mei worden vier tot zeven crème-witte eieren gelegd, die in elf tot dertien dagen worden uitgebroed. De jongen worden drie tot vier weken door beide ouders gevoerd, alvorens ze uitvliegen. In de tweede helft van deze periode is dit nest eenvoudig te ontdekken, daar de jongen dichtbij het vlieggat continue om de ouders roepen. Wanneer ze worden verschrikt zullen ze echter snel weer terug in hun hol duiken. Een aantal vogels zijn nestconcurrenten van de grote bonte specht, zoals uilen en kauwen. In Nederland worden nestholtes van de grote bonte specht regelmatig veroverd door de halsbandparkiet, een exoot die als ontsnapte kooivogel zich hier heeft gevestigd.