mod slutningen af Josephs regeringstid var der faktisk stigende utilfredshed. Religiøse elementer var utilfredse med mange af hans reformer, og både herrer og bønder var bekymrede over, hvad hans landbrugsændringer ville betyde for deres fremtid. Desuden havde et par andre politikker inspireret modstand., I 1784 meddelte han den ungarske regering, at dens officielle sprog, Latin, var ikke effektiv for moderne regering, og da Ungarsk blev talt af kun en del af befolkningen i dette rige, at sproget i regeringen fra Da af ville være tysk. Dette sprog ville blive brugt i de centrale kontorer straks, i amtet kontorer efter et år, og i de lokale kontorer efter tre. Regeringens beskæftigelse og endda medlemskab af den ungarske kost ville kun være åben for tysktalende., Selvom det var designet til at lette administrationen, fortolkede mange ungarere denne sprogregering som en trussel mod hele deres kultur og talte entusiastisk imod den. For at tilføje ungarernes rædsel nægtede Joseph at underkaste sig en kroning i Ungarn, for at han ikke skulle sværge for at opretholde love, som han ikke ønskede, og så fik han rigets hellige krone flyttet til .ien.
Ved 1787 modstand mod Joseph og hans regering blev intensiveret., En Habsburg besiddelse, der var undsluppet reformer under regeringstid af Maria Theresa og Joseph var den østrigske Holland, som regerede sig selv under sine egne love. I januar og marts 1787 fejede Joseph simpelthen den østrigske Nederlands forfatning og meddelte, at den fra Da af ville blive styret efter absolutistiske principper, Ligesom de andre provinser i monarkiet. Modstand simrede i Det Østrigske Holland indtil 1789, da det kogte over til åben oprør, hvilket tvang administrationen der til at flygte i sikkerhed i hertugdømmet Lu .embourg., På det tidspunkt var der også rygter om oprør i Ungarn og Galicien, og i en periode viste det sig, som om revolutionen kunne bryde ud i mange dele af monarkiet.Josephs reformer har måske ikke skabt så meget modstand, hvis det ikke havde været for hans udenrigspolitik. Joseph var ikke særlig aggressiv i udenrigsanliggender, men han fulgte det Anti-preussiske råd fra sin og sin mors gamle kansler, Kaunit., og det råd endte i ulykke. Kaunit.troede fast, at Østrig kun kunne kontrollere Preussen ved hjælp af Rusland., Derfor forhandlede han og Joseph i 1781 med Catherine den store en pagt, der sørgede for russisk hjælp til Østrig i tilfælde af krig med Preussen. Til gengæld lovede Østrig at hjælpe Rusland i tilfælde af krig med det Osmanniske Rige. Sikker på hendes diplomatiske og militære styrke engagerede Catherine sig derefter i en række provokationer mod tyrkerne, der resulterede i 1787 i en krigserklæring fra sultanen. Selv om Josef ikke havde noget reelt ønske om at deltage i denne krig, krævede hans traktatforpligtelser med Rusland, at han gjorde det. Først gik krigen Dårligt., I 1788 ventede østrigerne på, at russerne skulle tage offensiven i rumænske lande—hvilket de ikke gjorde—kun for selv at blive angrebet af tyrkerne og sendt skurrende nordpå fra Donau i et forsøg på at genopbygge deres linjer. Joseph selv var til stede på denne kampagne, som ikke gjorde nogen noget godt. Han kunne ikke inspirere sine officerer til at være mere aggressive, og han blev ganske syg, så meget, at han vendte tilbage til lateien i slutningen af 1788 i et forsøg på at komme sig., Kampagnen i 1789 gik meget bedre, hvilket resulterede i den Østrigske erobring af den vigtige fæstning af Beograd ved sammenløbet af floderne Sava og Donau og i en fælles Østrigsk-russisk offensiv i Moldavien og Walachia, der kørte Tyrkerne hele vejen til Donau.
men på dette tidspunkt var alle de uheldige konsekvenser af Josephs indenrigs-og udenrigspolitik ned på ham. Krigen i sig selv forårsagede en udstrømning af folkelig agitation mod hans udenrigspolitik, befolkningen i Det Østrigske Holland steg i direkte revolution, og rapporter om problemer i Galicien steg., Endelig var det Ungarn, der brød Josefs ånd. I 1788 havde han at convoke den gamle county forsamlinger til at bede om rekrutter og forsyninger til at bekæmpe krigen. Adelsmændene, der udgjorde disse stævner, svarede med protester og krav om, at den gamle forfatning blev genoprettet, og at Joseph underkastede sig kroning på traditionel ungarsk måde. Selv den ungarske kansleri, ministeriet i den centrale regering med ansvar for Ungarske anliggender, anbefalede, at Joseph gav efter for disse ønsker fra sine vælgere.,overfor disse vanskeligheder tilbagekaldte Joseph mange af de reformer, han havde vedtaget tidligere. I et brev af januar 1790 understregede han sine gode hensigter med at vedtage sine nye love i Ungarn og tilbagekaldte dem alle undtagen Tolerationsloven, lovene relateret til bøndernes status og klosterreformerne. Han accepterede at kalde den ungarske kost—men ikke for tidligt i betragtning af den farlige internationale situation—og han accepterede at returnere kronen til Ungarn og til sin egen kroning som landets konge., Kronen skete dog aldrig, for Josef døde den følgende måned.