Justin was de neef van keizer Justinianus: de zoon van Justinianus zus Vigilantia. Als lid van de keizerlijke familie ontving hij een grondige opleiding en genoot hij van aanzienlijke voordelen die niet beschikbaar waren voor minder burgers van het Oost-Romeinse rijk. Zijn krachtige positie kan de reden zijn waarom hij over extreem zelfvertrouwen beschikte dat als arrogantie zou kunnen worden beschouwd.
Justinianus had geen eigen kinderen en daarom werd verwacht dat een van de zonen en kleinzonen van de broers en zussen van de keizer de kroon zou erven. Justin had, net als verschillende van zijn neven en nichten, een schare aanhangers zowel binnen als buiten het paleismilieu. Tegen de tijd dat Justinianus het einde van zijn leven naderde, had slechts één andere mededinger enige kans om de keizer te volgen: de zoon van Justin's neef Germanus, ook Justin genoemd. Deze andere Justin, een man met een aanzienlijk militair vermogen, wordt door sommige historici beschouwd als een betere kandidaat voor de positie van heerser. Helaas voor hem kan de nostalgische herinnering van de keizer aan zijn overleden vrouw Theodora zijn kansen hebben geschaad.
Het is bekend dat de keizer zwaar heeft vertrouwd op de begeleiding van zijn vrouw, en de invloed van Theodora is duidelijk te zien in enkele van de wetten die Justinianus heeft aangenomen. Het is mogelijk dat haar persoonlijke afkeer van Germanus haar heeft verhinderd een serieuze band te vormen met de kinderen van Germanus, inclusief Justin. Bovendien was de toekomstige keizer Justin II getrouwd met Theodora's nicht Sophia. Daarom is het waarschijnlijk dat Justinianus warmere gevoelens had voor de man die hem zou opvolgen. En inderdaad, de keizer noemde zijn neef Justin naar het kantoor van cura palatii. Dit kantoor was meestal bekleed door een persoon met de rang van spectabilis, die zorgde voor de algemene dagelijkse zakelijke aangelegenheden in het paleis, maar nadat Justin was benoemd, werd de titel meestal verleend aan leden van de keizerlijke familie of, af en toe, buitenlandse prinsen.
Bovendien, toen Justinianus stierf, bewaakte de andere Justin de Donau-grens in zijn rol als meester van de soldaten in Illyricum. De toekomstige keizer was in Constantinopel, klaar om elke gelegenheid te benutten.
Die kans kwam met de onverwachte dood van Justinian.
Justinianus was zich misschien bewust van zijn sterfelijkheid, maar hij voorzag niet in een opvolger. Hij stierf plotseling in de nacht van 14/15 november 565, zonder officieel te hebben genoemd wie zijn kroon zou opnemen. Dit weerhield de aanhangers van Justin er niet van hem op de troon te manoeuvreren. Hoewel Justinianus waarschijnlijk stierf in zijn slaap, beweerde de kamerheer Callinicus dat de keizer de zoon van Vigilantia had aangewezen als zijn erfgenaam met zijn stervende adem.
In de vroege ochtenduren van 15 november snelden de kamerheer en een groep senatoren die uit hun slaap waren gewekt naar het paleis van Justin, waar ze werden ontmoet door Justin en zijn moeder. Callinicus vertelde de stervende wens van de keizer en hoewel hij blijk gaf van tegenzin, stemde Justin snel in met het verzoek van de senatoren om de kroon op zich te nemen. Onder begeleiding van de senatoren begaven Justin en Sophia zich naar het Grote Paleis, waar de Excubitors de deuren blokkeerden en de patriarch Justin kroonde. Voordat de rest van de stad wist dat Justinianus dood was, hadden ze een nieuwe keizer.
'S Morgens verscheen Justin in de keizerlijke kist op het Hippodrome, waar hij de mensen toesprak. De volgende dag kroonde hij zijn vrouw Augusta. En binnen enkele weken werd de andere Justin vermoord. Hoewel de meeste mensen van de dag Sophia de schuld gaven, lijkt er geen twijfel over te bestaan dat de nieuwe keizer zelf achter de moord zat.
Justin ging toen aan de slag om de steun van de bevolking te krijgen.
Justinianus had het rijk in financiële moeilijkheden verlaten. Justin betaalde de schulden van zijn voorganger, betaalde achterstallige belastingen af en bezuinigde op de uitgaven. Hij herstelde ook het consulaat dat in 541 was verlopen. Dit alles hielp de lokale economie, die Justin hoge cijfers van zowel de adel als de algemene bevolking opleverde..
Maar de dingen waren niet allemaal rooskleurig in Constantinopel. In het tweede regeringsjaar vond er een samenzwering plaats, mogelijk ingegeven door de politieke moord op de andere Justin. De senatoren Aetherios en Addaios hebben kennelijk plannen gemaakt om de nieuwe keizer te vergiftigen. Aetherios bekende en noemde Addaeus als zijn medeplichtige, en beiden werden geëxecuteerd. Daarna verliep het aanzienlijk soepeler.
Het Acaciaanse Schisma dat de Kerk in de late vijfde en vroege zesde eeuw had gesplitst, was niet geëindigd met een afschaffing van de ketterse filosofie die de splitsing veroorzaakte. Monofysische kerken waren gegroeid en verankerd in het Oost-Romeinse rijk. Theodora was een vaste Monophysite geweest en naarmate Justinian ouder werd, was hij meer en meer geneigd geworden tot de ketterse filosofie.
Aanvankelijk toonde Justin een vrij liberale religieuze tolerantie. Hij liet Monophysite-kerkers vrijlaten uit de gevangenis en liet bisschoppen in ballingschap naar huis komen. Justin wilde blijkbaar de verschillende monophysite-facties verenigen en uiteindelijk de ketterse sekte herenigen met het orthodoxe gezichtspunt (zoals verwoord in het Concilie van Chalcedon). Helaas werd elke poging die hij deed om een akkoord te bereiken, afgewezen door onverzettelijke extremisten van de Monophysite. Uiteindelijk veranderde zijn tolerantie in eigenwijsheid en hij voerde een beleid van vervolging in dat zolang hij de macht had over het rijk.
Justinianus had verschillende methoden gevolgd om Byzantijnse landen te bouwen, te onderhouden en te behouden, en was erin geslaagd grondgebied te verwerven in Italië en Zuid-Europa dat deel uitmaakte van het oude Romeinse rijk. Justin was vastbesloten om de vijanden van het rijk te vernietigen en was niet bereid een compromis te sluiten. Niet lang nadat hij de troon had bereikt, ontving hij afgezanten van de Avars en weigerde hen de subsidies die zijn oom hen had verleend. Hij vormde toen een alliantie met de West-Turken van Centraal-Azië, met wie hij vocht tegen de Avars en mogelijk ook de Perzen.