Der Fahrzeugpark der Kleinbahnen war recht abwechslungsreich. Sieht man von den Bahnen des Kleinbahnbauunternehmers Friedrich Lenz ab, dessen Normalien zu einem relativ einheitlichen Erscheinungsbild seiner Strecken führten, so beschaffte anfangs jede Bahnverwaltung ihre eigenen Fahrzeuge. Als sich die Kleinbahnen der preußischen Provinz Sachsen in den 1920er Jahren zusammenschlossen, wurden die Triebfahrzeuge und Wagen gemeinsam beschafft und die Fahrzeuge dann gelegentlich auch ausgetauscht. Die Kleinbahn Rennsteig - Frauenwald kam so z.B. zu ihren Leihloks. Übrigens unterstützen sich die zusammengeschlossenen Bahnen auch finanziell. In der Anfangszeit des Kleinbahnbaus wurden oft ausgemusterte Staatsbahnlokomotiven erworben. Fast ohne Ausnahme wurden Tenderloks eingesetzt. Aufgrund der geringen Streckenlängen und den reichlichen Unterwegshalten waren große Vorräte, wie sie Schlepptenderlokomotiven haben, nicht erforderlich. Derartige Dampfloks waren bei den kleinen Bahnen die absolute Ausnahme. Kleinbahnen mit leichtem Streckenprofil, also ohne größere Steigungen, eröffneten ihren Betrieb in der Regel mit zweiachsigen Naßdampflokomotiven. Generell gab es bei den Kleinbahnen kaum Heißdampfloks, die mit Überhitzung des Dampfes arbeiten. Die erhöhte Leistungsfähigkeit brachte auch höhere Unterhaltskosten mit sich. Bei den Naßdampflokomotiven war das Preis-Leistungs-Verhältnis am günstigsten. Die zweiachsigen Dampfloks genügten manchmal sogar bis zur Einstellung des Betriebes den Anforderungen. So wurden die letzten derartigen Loks erst Anfang der 60er Jahre durch die Deutsche Reichsbahn ausgemustert. Wenn die Zweikuppler nicht mehr ausreichten, ging man zu dreiachsigen Loks über. Auch in diesem Fall griff man gern auf gebrauchte Staatsbahnlokomotiven zurück. So gelangte die bewährte preußische Tenderlok der Gattung T 3 in größerer Stückzahl zu den Kleinbahnen. Ein Teil der T 3, teilweise in modifizierter Form, wurden auch direkt an die Kleinbahnen geliefert. Alle großen deutschen Lokomotivfabriken entwickelten zudem auf die speziellen Bedürfnisse der Kleinbahnen ausgerichtete Lokomotiven. Derartige Kleinbahnlokomotiven, vorwiegend dreiachsig ausgeführt, machten den größten Anteil am Lokpark der Kleinbahnen aus. Bereits um 1920 gab es erste Versuche mit Triebwagen. Damit wollte man die Trennung des Personen- und des Güterverkehrs erreichen, um die Reisegeschwindigkeit zu erhöhen. Die Triebwagen, meist mit Dampf- oder Benzolantrieb, waren im Prinzip ein Erfolg. Jedoch waren sie technisch noch nicht ausgereift, so daß es bei Versuchen blieb. Die Neuhaldenslebener Kleinbahn ließ Doppelstockbusse aus Berlin zu Eisenbahnfahrzeugen umbauen. Diese skurrilen Gefährte hielten sich erstaunlich lange im Betriebsdienst. Um die Kosten für Kleinbahnlokomotiven zu minimieren, wurde Anfang der 20er Jahre das sogenannte ELNA-Typenprogramm entworfen. Der Engere Lokomotiv-Normen-Ausschuß entwickelte genormte Lokomotiven vor allem mit den Achsfolgen 1‘ C und D und Achslasten von 12 t und 14 t jeweils als Heißdampf- und als Naßdampfloks. Von den sechs geplanten Typen wurden nicht alle tatsächlich gebaut. Auch nach Aufstellung dieses Typenprogrammes und nachdem den ELNA-Typen ähnliche dreiachsige Loks gebaut wurden, verkauften sich die bewährten nicht typisierten Kleinbahnloks immer noch gut. Das ELNA-Programm wurde nicht der große Wurf. In den 30er Jahren übernahmen zunehmend Triebwagen den Personenverkehr. Meist wurden sie von Dieselmotoren angetrieben. Ein Teil dieser Fahrzeuge war bis in die 70er Jahre im Einsatz. Bis zum Beginn der 70er überlebten auch einige Kleinbahnloks. Als letzte wurden einige ELNA-Loks ausgemustert. Diesellokomotiven hat es in nennenswerter Stückzahl bei den Kleinbahnen nicht gegeben. Mit 89 6009 war eine ehemalige Kleinbahnlok noch bis Juni 2008 betriebsfähig. Diese Lok fuhr einst auf der Kleinbahn Heudeber - Mattierzoll und kam zunächst zum Lokbahnhof Bernburg. Von Mai bis November 1953 erhielt sie im Raw Blankenburg (Harz) einen dreiachsigen preußischen Schlepptender. Fortan kam sie mit weiteren C-Kupplern, die von der DR einen Schlepptender erhalten hatten, vom Bw Wriezen aus im Oderbruch zum Einsatz. Als betriebsfähige Traditionslok der DR wurde sie später in Dresden beheimatet, wo sie sich bis heute befindet.

Nach der Übernahme durch die Deutsche Reichsbahn reihte diese die normalspurigen Kleinbahnloks in ihr Nummernschema ein. Nach der Baureihenbezeichnung entsprechend dem DR-Nummernschema folgte als erste und zweite Ziffer der Ordnungsnummer eine 6 (manchmal auch eine 5) und die um 10 verringerte Achslast. Gelegentlich werden daher die Kleinbahnloks auch als „6000er“ bezeichnet. Die Lok mit der Nummer 89 6002 ist also eine dreiachsige Dampflok (in diesem Falle eine T 3) mit 10 t Achslast und in dieser Kategorie der C-Kuppler mit 10 t Achslast mit der fortlaufenden Nummer 02. Betriebsfähig erhalten geblieben sind natürlich eine Reihe von Schmalspurfahrzeugen ehemaliger Kleinbahnen. Deren Betriebsnummern lassen jedoch keinen Rückschluß auf die Herkunft à la „6000er“ zu.

Schon bald nach Übernahme durch die DR kamen auf vielen Kleinbahnen auch DR-Lokbaureihen zum Einsatz. Bevorzugt wurden überalterte oder zu schwache Kleinbahnlokomotiven ausgemustert oder andernorts eingesetzt. Auf Werkbahnen und in RAW hat so das eine oder andere Exemplar überlebt.

Die Kleinbahnen beschafften in der Regel Personenwagen, die sich von den Staatsbahnwagen deutlich unterschieden. Gelegentlich erwarben sie jedoch auch ältere gebrauchte Wagen von den Staatsbahnen, die teilweise dann umgebaut wurden. So entstand ein recht bunter Fahrzeugpark. Besonders interessant waren kombinierte Wagen zum Beispiel der Gattung BCPostPw4, wie sie zum Beispiel von der Wagonfabrik Lindner in Ammendorf gebaut wurden. Für das geringe Verkehrsaufkommen vieler Kleinbahnen genügte ein einziger dieser Wagen. Der Güterwagenpark war nicht so exotisch. Besaßen die Kleinbahnen Güterwagen, entsprachen sie meist den Normalien der preußischen Staatsbahn bzw. später den Verbandsbauarten der Deutschen Reichsbahn. Sie waren meist auch in deren Wagenpark eingereiht und wurden deutschland- und europaweit freizügig eingesetzt. Es soll Kleinbahngüterwagen gegeben haben, die ihre Heimatbahn niemals wiedersahen. Im Güterverkehr der Kleinbahnen kamen im Gegenzug Staatsbahnwagen zum Einsatz. Für den Binnenverkehr, also den Güterverkehr auf der eigenen Strecke oder im eigenen Netz, nutzten die Kleinbahnen oft altbrauchbare Staatsbahnwagen. Diese verließen die Kleinbahnen nicht.

Bei vielen Kleinbahnen spielte der Personenverkehr gegenüber dem Güterverkehr eine untergeordnete Rolle. Dominierende Zuggattung waren gemischte Züge, die als Güterzug mit Personenbeförderung (GmP) oder Personenzug mit Güterbeförderung (PmG) verkehrten. Reine Personenzüge wurden meist erst mit dem Aufkommen des Triebwagenverkehrs gefahren. Reine Güterzüge verkehrten während der Erntesaison oder bei hohem Güterverkehrsaufkommen.