Gegen Ende der Regierungszeit von Joseph gab es tatsächlich zunehmende Unzufriedenheit. Religiöse Elemente waren mit vielen seiner Reformen unzufrieden, und sowohl Herren als auch Bauern waren besorgt darüber, was seine landwirtschaftlichen Veränderungen für ihre Zukunft bedeuten würden. Darüber hinaus hatten einige andere Politiken Widerstand ausgelöst., 1784 teilte er der ungarischen Regierung mit, dass ihre Amtssprache Latein für die moderne Regierung nicht wirksam sei und da Ungarisch nur von einem Teil der Bevölkerung dieses Königreichs gesprochen werde, werde die Regierungssprache von da an Deutsch sein. Diese Sprache würde sofort in den zentralen Büros verwendet, in den Bezirksbüros nach einem Jahr, und in den lokalen Büros nach drei. Regierungsarbeit und sogar die Mitgliedschaft in der ungarischen Regierung stünden nur deutschsprachigen Personen offen., Obwohl es die Verwaltung erleichtern sollte, interpretierten viele Ungarn dieses Sprachurteil als Bedrohung für ihre gesamte Kultur und sprachen sich begeistert dagegen aus. Um das Entsetzen der Ungarn zu verstärken, weigerte sich Joseph, sich einer Krönung in Ungarn zu unterwerfen, damit er nicht schwören musste, Gesetze einzuhalten, die er nicht wollte, und dann ließ er die heilige Krone des Königreichs nach Wien ziehen.
Bis 1787 verstärkte sich der Widerstand gegen Joseph und seine Regierung., Ein habsburgischer Besitz, der den Reformen während der Regierungszeit von Maria Theresia und Joseph entgangen war, waren die österreichischen Niederlande, die sich nach ihren eigenen Gesetzen regierten. Im Januar und März 1787 fegte Joseph einfach die Verfassung der österreichischen Niederlande weg und kündigte an, dass sie von da an nach absolutistischen Prinzipien regiert werden würde, genau wie die anderen Provinzen der Monarchie. Der Widerstand schwand in den österreichischen Niederlanden bis 1789, als er in einen offenen Aufstand überging und die dortige Verwaltung zwang, in das Herzogtum Luxemburg in Sicherheit zu fliehen., Zu dieser Zeit gab es auch Gerüchte über Rebellion in Ungarn und in Galizien, und für eine Zeit schien es, als ob Revolution in vielen Teilen der Monarchie ausbrechen könnte.
Josephs Reformen hätten nicht so viel Widerstand hervorgerufen, wenn es nicht seine Außenpolitik gewesen wäre. Joseph war außenpolitisch nicht besonders aggressiv, aber er folgte dem antipreußischen Ratschlag seines Altkanzlers Kaunitz und seiner Mutter, und dieser Rat endete im Unglück. Kaunitz glaubte fest daran, dass Österreich Preußen nur mit Hilfe Russlands kontrollieren könne., Infolgedessen verhandelten er und Joseph 1781 mit Katharina der Großen einen Pakt, der im Kriegsfall mit Preußen russische Hilfe für Österreich vorsah. Im Gegenzug versprach Österreich, Russland im Kriegsfall mit dem Osmanischen Reich zu helfen. Catherine war sich ihrer diplomatischen und militärischen Stärke sicher und unternahm dann eine Reihe von Provokationen gegenüber den Türken, die 1787 zu einer Kriegserklärung des Sultans führten. Obwohl Joseph keinen wirklichen Wunsch hatte, an diesem Krieg teilzunehmen, erforderten seine Vertragspflichten mit Russland dies. Zuerst ging der Krieg schlecht., 1788 warteten die Österreicher darauf, dass die Russen in rumänischen Ländern die Offensive starteten—was sie nicht taten—, nur um selbst von den Türken angegriffen zu werden, und schickten huschend von der Donau nach Norden, um ihre Linien zu überdenken. Joseph selbst war bei diesem Feldzug anwesend, was niemandem gut tat. Er konnte seine Offiziere nicht dazu inspirieren, aggressiver zu sein, und er wurde ziemlich krank, so dass er Ende 1788 nach Wien zurückkehrte, um sich zu erholen., Der Feldzug im Jahr 1789 verlief viel besser, was zur österreichischen Eroberung der wichtigen Festung Belgrad am Zusammenfluss von Save und Donau und zu einer gemeinsamen österreichisch-russischen Offensive in Moldawien und Walachien führte, die die Türken bis zur Donau trieb.
Aber zu diesem Zeitpunkt waren alle unglücklichen Folgen von Josephs Innen-und Außenpolitik auf ihn niedergeschlagen. Der Krieg selbst verursachte eine ausgiebige Agitation der Bevölkerung gegen seine Außenpolitik, die Menschen in den österreichischen Niederlanden erhoben sich in völliger Revolution, und Berichte über Schwierigkeiten in Galizien nahmen zu., Schließlich war es Ungarn, das Josephs Geist brach. 1788 musste er die alten Bezirksversammlungen einberufen, um Rekruten und Vorräte für den Krieg anzufordern. Die Adligen, aus denen diese Versammlungen bestanden, antworteten mit Protesten und forderten die Wiederherstellung der alten Verfassung und die Krönung Josephs auf traditionelle ungarische Weise. Sogar das ungarische Kanzleramt, das für ungarische Angelegenheiten zuständige Ministerium in der Zentralregierung, empfahl Joseph, diesen Wünschen seiner Wähler nachzugeben.,
Angesichts dieser Schwierigkeiten zog Joseph viele der Reformen zurück, die er zuvor erlassen hatte. In einem Brief vom Januar 1790 betonte er seine guten Absichten bei der Verabschiedung seiner neuen Gesetze in Ungarn und hob dann alle außer dem Erlass der Toleranz, den Gesetzen über den Status der Bauern und den Klosterreformen auf. Er stimmte zu, die ungarische Diät anzurufen—aber nicht zu früh, angesichts der gefährlichen internationalen Situation-und er stimmte zu, die Krone nach Ungarn und zu seiner eigenen Krönung als König dieses Landes zurückzugeben., Die Krönung kam jedoch nie zustande, denn Joseph starb im folgenden Monat.