Einen wesentlichen Anteil dieser guten Entwicklung haben die Landesverbände. Und die Gründung eines eigenen Fachverbandes war wiederum eine der wichtigsten Voraussetzungen zur Bildung dieser. Natürlich dauerte es noch einige Zeit, bis in den Bundesländern eine entsprechende Anzahl an Vereinen vorhanden war, die sich zu einer Landesorganisation zusammenschließen konnten. Anders als bei vielen anderen Verbänden war also für Judo zuerst der bundesweite Fachverband entstanden, dem sich sukzessive die Länder anschlossen. In dem Jahr, als die Hauptversammlung des ÖAJV beschloß, dem Verband einen neuen Namen zu geben, also 1955, wurde der erste Fachverband in einem Bundesland ins Leben gerufen. Es war dies der Landesverband (LV) Oberösterreich. Seinem Beispiel folgten nach und nach auch die anderen Bundesländer, sodass seit 1977 jedes Bundesland über eine eigene Landesorganisation verfügt. Die einzelnen Landesverbände wurden wie folgt gegründet:

1955— Oberösterreich
1957— Steiermark
1958— Wien (damals mit Niederösterreich und Burgenland)
1959— Salzburg
1967— Vorarlberg
1968— Tirol
1969— Kärnten
1970— Niederösterreich (verließ die Union mit Wien und Burgenland)
1977— Burgenland (verließ die Union mit Wien)