József uralmának vége felé egyre nagyobb volt az elégedetlenség. A vallási elemek sok reformjával elégedetlenek voltak, mind az urak, mind a parasztok aggódtak amiatt, hogy mezőgazdasági változásai mit jelentenek a jövőjük számára. Sőt, néhány más politika is ösztönözte az ellenállást., 1784-ben arról tájékoztatta a magyar kormányt, hogy hivatalos nyelve, a Latin nem volt hatékony a modern kormány számára, és mivel a magyar nyelvet a Királyság lakosságának csak egy része beszélte, ettől kezdve a kormány nyelve Német lesz. Ezt a nyelvet a központi irodákban azonnal, a megyei hivatalokban egy év után, a helyi irodákban pedig három év után használnák. A kormány foglalkoztatása, sőt a magyar étrendben való tagság csak a német anyanyelvűek számára lenne nyitva., Bár az adminisztráció megkönnyítésére tervezték, sok Magyar úgy értelmezte ezt a nyelvszabályt, hogy veszélyt jelent az egész kultúrájukra, és lelkesen beszélt ellene. A magyarok rémületét tetézve József nem volt hajlandó alávetni magát egy magyarországi koronázásnak, nehogy megesküdjön, hogy betartja azokat a törvényeket, amelyeket nem akart, majd a Királyság Szent koronáját Bécsbe költöztette.
1787-re József és kormánya ellenállása felerősödött., Az egyik Habsburg birtok, amely Mária Terézia és József uralkodása alatt megszökött a reformoktól, az osztrák Hollandia volt, amely saját törvényei szerint uralkodott. József 1787 januárjában és márciusában egyszerűen elsöpörte az osztrák-Holland alkotmányt, és bejelentette, hogy ettől kezdve az abszolutista elvek szerint fog uralkodni, akárcsak a monarchia többi tartománya. Az ellenállás 1789-ig tartott az osztrák Hollandiában, amikor nyílt lázadásba fulladt, arra kényszerítve az ottani adminisztrációt, hogy a luxemburgi hercegség biztonságába meneküljön., Ekkorra Magyarországon és Galíciában is lázadásról szóltak a hírek, és egy ideig úgy tűnt, mintha forradalom törne ki a monarchia számos részén.
József reformjai talán nem generáltak annyi ellenzéket, ha nem lett volna külpolitikája. József nem volt különösebben agresszív a külügyekben, de követte anyja régi kancellárjának, Kaunitznak a Poroszellenes tanácsait, és ez a Tanács szerencsétlenséggel végződött. Kaunitz szilárdan hitte, hogy Ausztria csak Oroszország segítségével ellenőrizheti Poroszországot., Következésképpen 1781-ben Józseffel nagy Katalinnal egy olyan paktumot kötött, amely Orosz segítséget nyújtott Ausztriának Poroszországgal folytatott háború esetén. Cserébe Ausztria megígérte, hogy segít Oroszországnak az Oszmán Birodalommal folytatott háború esetén. Katalin ekkor diplomáciai és katonai erejével számos provokációt hajtott végre a törökökkel szemben, ami 1787-ben a szultán hadüzenetéhez vezetett. Bár Józsefnek nem volt valódi vágya arra, hogy részt vegyen ebben a háborúban, az Oroszországgal kötött szerződéses kötelezettségei ezt megkövetelték tőle. Először a háború rosszul ment., 1788—ban az osztrákok arra vártak, hogy az oroszok a román területeken—amit nem tettek meg-csak azért támadják meg magukat, hogy a törökök megtámadják őket, és a Dunától északra átkelnek, hogy újragondolják vonalaikat. József maga is jelen volt ebben a kampányban, ami senkinek sem tett jót. A tiszteket nem tudta agresszívebbé tenni, és nagyon megbetegedett, olyannyira, hogy 1788 végén visszatért Bécsbe a felépülés érdekében., Az 1789-es hadjárat sokkal jobban ment, ami a Száva és a Duna folyók összefolyásánál Belgrád fontos erődjének Osztrák meghódítását eredményezte, valamint egy moldáviai és Walachiai osztrák-orosz offenzívát, amely egészen a Dunáig vezette a törököket.
de ekkorra József bel-és külpolitikájának minden szerencsétlen következménye lesújtott rá. A háború maga is népszerű agitációt váltott ki külpolitikája ellen, az osztrák Hollandia népe egyenesen forradalomban emelkedett, Galíciában pedig egyre nagyobb bajokról számoltak be., Végül Magyarország törte meg József szellemét. 1788-ban össze kellett hívnia a régi megyei közgyűléseket, hogy újoncokat és utánpótlást kérjen a háború elleni küzdelemhez. A gyűléseket alkotó nemesek tiltakozással válaszoltak, és követelték a régi alkotmány helyreállítását, valamint József hagyományos magyar módon történő koronázását. Még a magyar kancellária, a magyar ügyekért felelős központi kormány Minisztériuma is azt javasolta Józsefnek, hogy engedjen választói kívánságainak.,
ezekkel a nehézségekkel szembesülve Joseph visszavonta a korábban bevezetett reformok sokaságát. 1790 januárjában kelt levelében hangsúlyozta, hogy jó szándékában áll új törvényeinek életbe léptetését Magyarországon, majd mindet visszavonta, kivéve a tolerancia Ediktumát, a parasztok jogállásával kapcsolatos törvényeket és a szerzetesi reformokat. Beleegyezett, hogy a magyar étrendet—de a veszélyes nemzetközi helyzetre való tekintettel nem túl hamar-behívja, és beleegyezett abba, hogy a koronát visszaadja Magyarországra és saját koronázására, mint az ország királya., A megkoronázásra azonban nem került sor, mert József a következő hónapban meghalt.