Als je terug in de tijd ging en keek naar de eerste, onopvallende prehistorische haaien uit de Ordovicistische periode - ongeveer 420 miljoen jaar geleden - zou je nooit kunnen raden dat hun afstammelingen zulke dominante wezens zouden worden, die zich staande houden tegen wrede mariene reptielen zoals pliosaurs en mosasaurus en worden de 'toproofdieren' van de oceanen ter wereld. Tegenwoordig wekken maar weinig wezens zoveel angst op als de Grote Witte Haai, de dichtstbijzijnde natuur is tot een pure moordmachine gekomen - als je Megalodon uitsluit, dat 10 keer groter was.
Alvorens haaienevolutie te bespreken, is het echter belangrijk om te definiëren wat we bedoelen met "haai". Technisch gezien zijn haaien een onderorde van vissen waarvan de skeletten zijn gemaakt van kraakbeen in plaats van bot; Haaien onderscheiden zich ook door hun gestroomlijnde, hydrodynamische vormen, scherpe tanden en schuurpapierachtige huid. Frustrerend voor paleontologen, skeletten gemaakt van kraakbeen blijven in het fossielenbestand niet zo goed bestaan als skeletten gemaakt van bot - dat is de reden waarom zoveel prehistorische haaien voornamelijk (zo niet exclusief) bekend zijn door hun gefossiliseerde tanden.
We hebben niet veel in de vorm van direct bewijs, behalve een handvol gefossiliseerde schubben, maar de eerste haaien worden verondersteld te zijn geëvolueerd tijdens de Ordovician-periode, ongeveer 420 miljoen jaar geleden (om dit in perspectief te plaatsen, de eerste viervoeters is pas 400 miljoen jaar geleden uit zee opgekropen). Het belangrijkste geslacht dat significant fossiel bewijs heeft achtergelaten, is de moeilijk uit te spreken Cladoselache, waarvan talloze exemplaren zijn gevonden in het Amerikaanse Midwesten. Zoals je zou verwachten in zo'n vroege haai, was Cladoselache vrij klein, en het had een aantal vreemde, niet-haai-achtige kenmerken - zoals een schaarste aan schubben (behalve kleine gebieden rond zijn mond en ogen) en een volledig gebrek van "claspers", het seksuele orgaan waarmee mannelijke haaien zich hechten (en sperma overbrengen op) de vrouwtjes.
Na Cladoselache waren de belangrijkste prehistorische haaien uit de oudheid Stethacanthus, Orthacanthus en Xenacanthus. Stethacanthus mat slechts zes voet van snuit tot staart, maar had al de volledige reeks haaienkenmerken: schubben, scherpe tanden, een onderscheidende vinstructuur en een slanke, hydrodynamische bouw. Wat dit geslacht onderscheidde, waren de bizarre, strijkplankachtige structuren bovenop de ruggen van mannen, die waarschijnlijk op de een of andere manier werden gebruikt tijdens het paren. De even oude Stethacanthus en Orthacanthus waren beide zoetwaterhaaien, onderscheiden zich door hun kleine formaat, palingachtige lichamen en vreemde spijkers die uit de bovenkant van hun hoofd steken (die mogelijk irritante gif hebben geleverd aan hinderlijke roofdieren).
Gezien hoe vaak ze in de voorafgaande geologische perioden waren, bleven haaien relatief laag in het oog gedurende het grootste deel van het Mesozoïcum, vanwege de intense concurrentie van mariene reptielen zoals ichthyosaurus en plesiosaurus. Verreweg het meest succesvolle geslacht was Hybodus, dat werd gebouwd om te overleven: deze prehistorische haai had twee soorten tanden, scherpe voor het eten van vis en platte voor het slijpen van weekdieren, evenals een scherp mes dat uit zijn rugvin stak om te houden andere roofdieren op afstand. Het kraakbeenachtige skelet van Hybodus was ongewoon taai en verkalkt, wat de volharding van deze haai verklaart, zowel in het fossielenbestand als in de oceanen van de wereld, die het rondsnuffelde van het Trias tot de vroege Krijtperioden.
Prehistorische haaien kwamen echt tot hun recht tijdens het midden Krijt, ongeveer 100 miljoen jaar geleden. Zowel Cretoxyrhina (ongeveer 25 voet lang) als Squalicorax (ongeveer 15 voet lang) zouden door een moderne waarnemer herkenbaar zijn als "ware" haaien; er is zelfs direct bewijs dat Squalicorax jaagde op dinosaurussen die zijn leefgebied binnendrongen. Misschien wel de meest verrassende haai uit het Krijt is de recent ontdekte Ptychodus, een 30-voet lang monster waarvan de talloze platte tanden waren aangepast om kleine weekdieren te malen, in plaats van grote vissen of water reptielen.
Nadat de dinosaurussen (en hun neven in het water) 65 miljoen jaar geleden waren uitgestorven, waren prehistorische haaien vrij om hun langzame evolutie naar de meedogenloze moordmachines te voltooien die we vandaag kennen. Frustrerend is dat het fossiele bewijs voor de haaien van het Mioceen-tijdperk (bijvoorbeeld) bijna uitsluitend uit tanden bestaat - duizenden en duizenden tanden, zoveel dat je er zelf een kunt kopen op de open markt voor een redelijk bescheiden prijs. De Grote Witte Otodus, bijvoorbeeld, is bijna uitsluitend bekend door zijn tanden, waaruit paleontologen deze angstaanjagende, 30 voet lange haai hebben gereconstrueerd.
Verreweg de beroemdste prehistorische haai van het Cenozoïcum was Megalodon, volwassen exemplaren waarvan 70 voet van kop tot staart gemeten en tot 50 ton wogen. Megalodon was een echt toproofdier van de oceanen van de wereld, feestend op alles van walvissen, dolfijnen en zeehonden tot gigantische vissen en (vermoedelijk) even gigantische inktvissen; voor een paar miljoen jaar is het misschien zelfs de prooi geweest van de even gigantische walvis Leviathan. Niemand weet waarom dit monster ongeveer twee miljoen jaar geleden is uitgestorven; de meest waarschijnlijke kandidaten zijn klimaatverandering en de daaruit voortvloeiende verdwijning van zijn gebruikelijke prooi.