Het Dobzhansky-Muller-model is een wetenschappelijke verklaring waarom natuurlijke selectie soortvorming zodanig beïnvloedt dat wanneer hybridisatie tussen soorten optreedt, de resulterende nakomelingen genetisch onverenigbaar zijn met andere leden van zijn oorspronkelijke soort.
Dit gebeurt omdat er op verschillende manieren speciatie in de natuurlijke wereld voorkomt, een daarvan is dat een gemeenschappelijke voorouder in veel geslachten kan afbreken vanwege reproductieve isolatie van bepaalde populaties of delen van populaties van die soort.
In dit scenario verandert de genetische samenstelling van die lijnen in de loop van de tijd door mutaties en natuurlijke selectie, waarbij de meest gunstige aanpassingen worden gekozen om te overleven. Als de soort eenmaal is afgeweken, zijn ze vaak niet meer compatibel en kunnen ze zich niet langer seksueel met elkaar voortplanten.
De natuurlijke wereld heeft zowel prezygotische als postzygotische isolatiemechanismen die voorkomen dat soorten kruisen en hybriden produceren, en het Dobzhansky-Muller-model helpt uit te leggen hoe dit gebeurt door de uitwisseling van unieke, nieuwe allelen en chromosomale mutaties.
Theodosius Dobzhansky en Hermann Joseph Muller creëerden een model om uit te leggen hoe nieuwe allelen ontstaan en worden doorgegeven in de nieuw gevormde soort. Theoretisch zou een individu dat een mutatie op chromosomaal niveau zou hebben zich niet kunnen reproduceren met een ander individu.
Het Dobzhansky-Muller-model probeert te theoretiseren hoe een gloednieuwe lijn kan ontstaan als er maar één persoon met die mutatie is; in hun model ontstaat een nieuw allel dat op één punt wordt gefixeerd.
In de andere nu uiteenlopende lijn, ontstaat een ander allel op een ander punt op het gen. De twee uiteenlopende soorten zijn nu onverenigbaar met elkaar omdat ze twee allelen hebben die nooit samen in dezelfde populatie zijn geweest.
Dit verandert de eiwitten die worden geproduceerd tijdens transcriptie en translatie, waardoor de hybride nakomelingen seksueel onverenigbaar kunnen worden; elke lijn kan echter nog steeds hypothetisch reproduceren met de voorouderlijke populatie, maar als deze nieuwe mutaties in de lijnen voordelig zijn, zullen ze uiteindelijk permanente allelen in elke populatie worden - wanneer dit gebeurt, is de voorouderlijke populatie met succes gesplitst in twee nieuwe soorten.
Het Dobzhansky-Muller-model kan ook uitleggen hoe dit op grote schaal kan gebeuren met hele chromosomen. Het is mogelijk dat na verloop van tijd tijdens de evolutie twee kleinere chromosomen centrische fusie kunnen ondergaan en één groot chromosoom worden. Als dit gebeurt, is de nieuwe lijn met de grotere chromosomen niet langer compatibel met de andere lijn en kunnen hybriden niet gebeuren.
Dit betekent in wezen dat als twee identieke maar geïsoleerde populaties beginnen met een genotype van AABB, maar de eerste groep evolueert naar aaBB en de tweede naar AAbb, wat betekent dat als ze kruisen om een hybride te vormen, de combinatie van a en b of A en B komt voor het eerst in de geschiedenis van de populatie voor, waardoor deze gehybridiseerde nakomelingen niet levensvatbaar zijn met zijn voorouders.
Het Dobzhansky-Muller-model stelt dat incompatibiliteit waarschijnlijk wordt veroorzaakt door wat bekend staat als alternatieve fixatie van twee of meer populaties in plaats van slechts één en dat het hybridisatieproces een gelijktijdig optreden van allelen in dezelfde persoon oplevert die genetisch uniek is en onverenigbaar met anderen van dezelfde soort.