Das Graue Langohr gilt als typische Dorffledermaus. In Mitteleuropa werden Jagdgebiete in warmen Tallagen, Siedlungen, Gärten, sowie extensiv bewirtschaftetes Agrarland bevorzugt. Größere Waldgebiete werden wohl gemieden. In Europa ist diese Art weit verbreitet. In Thüringen selbst kommt diese Art recht selten vor. Die meisten Nachweise gibt es in Südwestthüringen und im Saaletal.

Die Sommerquartiere findet das Graue Langohr oft in den Hohlräumen von Dachstühlen und Fassaden von Gebäuden in warmen, strukturreichen Regionen. Diese Art weist aufgrund ihrer bevorzugten Quartierwahl eine starke Siedlungsbindung auf. Im Sommer werden die Quartiere regelmäßig gewechselt, weshalb ein zusammenhängender Quartierverbund für den Artenschutz essentiell ist. Die Männchen sind in einer Vielzahl von unterschiedlichen Quartieren anzutreffen, so werden beispielsweise auch Widerlager unter Brücken genutzt. Vogel- und Fledermauskästen werden aber nicht gewählt.
In Thüringen gibt es viele Sommerquartiere in der Rhön und im Saaletal. Hier finden sich die meisten Quartiere und Wochenstuben in Kirchen, Ställen und alten Wirtschaftsgebäuden.

Wie bei dem Braunen Langohr liegen die Jagdgebiete mit einer maximalen Distanz von 5,5 km nahe an den Quartieren. Im Gegensatz zum Braunen Langohr weisen die Jagdgebiete mit bis zu 75 ha eine größere Fläche auf.

Als Winterquartiere werden eher kalte, trockene Höhlen, Keller und Felsspalten gewählt, die bevorzugten Hangplätze der Fledermäuse befinden sich in der Nähe des Eingangs. Daher gilt das Graue Langohr als eher winterharte Fledermausart. Die Winterquartiere konnten in allen Landesteilen Thüringens, außer in den Höhenlagen der Mittelgebirge, nachgewiesen werden. Auch hier zeigt sich die Siedlungsgebundenheit dieser Art, da selten Höhlen und Stollen außerhalb menschlicher Siedlungen als Winterquartier gewählt werden. Für die Überwinterung werden auch geeignete Sommerquartiergebäude genutzt.

Bis in die 1970er Jahre hinein wird eine Bestandsabnahme dieser Art in Thüringen angenommen. Seit den 1990er Jahren kann eine Erholung der Population bis in die 2000er Jahre beobachtet werden. Seitdem nimmt die Populationsgröße stetig wieder ab.