Die Evaluation der Lehre ist ein wichtiges Instrument zur Qualitätssicherung an Hochschulen. Die studentische Lehrveranstaltungskritik blickt dabei auf eine gut 50-jährige Geschichte zurück (Schmidt & Loßnitzer, 2010). Kontroverse Diskussionen in den 1980er und 1990er Jahren haben sich insbesondere mit der Validität dieser Art von Evaluation beschäftigt (Greenwald, 1997; Mutz, 2003; Rindermann, 1996, 2003 & 2009). Dabei hat sich gezeigt, dass studentische Beurteilungen für Lehrevaluationen geeignet sind. Dementsprechend sind sie zu einer zentralen, teilweise gesetzlich verankerten Standardmethode der Qualitätssicherung an Hochschulen geworden (Rindermann, 2009; Schmidt & Loßnitzer, 2010). Nach Rindermann (1996) kann Lehrevaluation in verschiedenen Bereichen Verbesserungen initiieren: So kann sie die Lehrqualifikation der Lehrenden verbessern, Stärken und Schwächen auf Veranstaltungs-, Fach- oder Universitätsebene aufdecken, Diskussionen zwischen Lehrenden und Studierenden unterstützen, die Mittelvergabe steuern und Weiterbildungsmaßnahmen veranlassen. Souvignier und Gold (2002) fassen die verschiedenen Ziele von Lehrevaluation in "Feedback", "Steuerung" und "Forschung" zusammen.

Seit dem Wintersemester 2000/1 werden im Fach Psychologie an der Universität Münster strukturierte Evaluationsfragebogen zur studentischen Veranstaltungskritik eingesetzt. Dabei wurden zunächst nur die Vorlesungen evaluiert. Eine Seminarevaluation findet seit dem Wintersemester 2002/3 statt. Seit dem Wintersemester 2003/4 wird die Lehrevaluation über eine webbasierte Darbietungsplattform online durchgeführt (vgl. Haaser, Thielsch & Moeck, 2007). Vorteile dieser Online-Erhebungsform sind enorme Zeitersparnisse bei der Erhebung, Auswertung und Präsentation der Daten (vgl. z.B. Göritz, Soucek & Bacher, 2005; Haaser et al., 2007). Außerdem konnte durch sie die Anzahl fehlender Werte durch entsprechend programmierte Rückmeldungen deutlich reduziert und das Feedback für Dozenten durch frei wählbare Vergleichsveranstaltungen verbessert werden. Nach einer Ausweitung der evaluierten Veranstaltungen werden seit 2008 auch vereinzelt so genannte Mixed-Mode Erhebungen durchgeführt, d.h. einzelne Veranstaltungen werden auch mithilfe von Papier-Bleistift Fragebogen evaluiert.

Für den deutschsprachigen Raum liegt bereits eine Reihe von Instrumenten zur Lehrevaluation vor. Eine Übersicht geben Schmidt und Loßnitzer (2010). Sie sind jedoch zum Teil vergleichsweise lang und somit nur bedingt für eine internetgestützte Darbietung und eine gleichzeitige Evaluation unterschiedlicher Veranstaltungen geeignet. Speziell für Online-Erhebungen und Rückmeldungen werden eher kurze und ökonomische Skalen benötigt. Da Lehrevaluationen zudem typischerweise gegen Semesterende stattfinden, fallen diese zeitlich in den neuen Studiengängen oftmals in die angespannte Phase der Prüfungsvorbereitung der Studierenden (vgl. Bechler & Thielsch, 2012). Hohe Ökonomie, d.h. eine möglichst geringe Belastung von Studierenden durch die Befragung, war deshalb ein zentrales Ziel bei der Konstruktion der hier beschriebenen Itembatterie. Zusätzlich wurde die Erhebung verschiedener Biasvariablen, wie z. B. Vorinteresse oder räumliche Ausstattung, gewünscht. Dazu wurden in die aktuelle Revision des MFE-V zum MFE-Vr mehrere Items neu aufgenommen. Für die meisten existierenden Lehrevaluationsinstrumente wurden Daten für eine Prüfung ihrer psychometrischen Eigenschaften nur beim ersten Einsatz erhoben und sie wurden später nicht anhand neuer Daten auch konfirmatorisch geprüft. Im Unterschied dazu wird hier auf Basis früherer exploratorischer und konfirmatorischer Faktorenanalysen angenommene dimensionale Strukturierung der Antworten mit neuen Daten aus aktuellen Erhebungen konfirmatorisch geprüft.

Itemkonstruktion und Itemselektion

Die vorliegende, gegenüber dem Basismodul Evaluation von Vorlesungen erweitere und revidierte Version des Münsteraner Fragebogens zur Evaluation (MFE) von Vorlesungen (MFE-Vr) basiert auf einer Reihe von Vorgängerversionen und einem umfangreichen Modifikationsprozess: Im ersten Schritt wurde auf Basis einer Analyse der Merkmale guter Lehre und ausgehend von empirischen Voruntersuchungen ein erstes Instrument am Fachbereich Psychologie der Universität Münster konstruiert (Grabbe, 2003). Es wurde zwischen dem Wintersemester 2002/3 und dem Sommersemester 2005 jedes Semester eingesetzt. Die Originalversion sollte mit 29 Items acht Dimensionen der Lehrqualität möglichst detailliert erfassen (Grabbe, 2003). Erste Item- und Hauptkomponentenanalysen der im Sommersemester 2005 erhobenen Daten veranlassten eine Kürzung des Fragebogens auf 14 Items, von denen sich neun drei Hauptkomponenten zuordneten (Haaser, 2006). Für das abschließend beibehaltene Instrument wählte Haaser für diese drei Subskalen bewusst Items aus, die unterschiedliche Aspekte der entsprechenden Konstrukte erfassen sollen. Dies spiegelte sich in teilweise niedrigen Werten für die interne Konsistenz nach Cronbachs Alpha wieder. Dieses Instrument wurde in 2008 einer konfirmatorischen Prüfung unterzogen und auf zwei Skalen reduziert (Hirschfeld & Thielsch, 2009). Danach zeigte sich jedoch weiterer Revisionsbedarf, resultierend aus den Anforderungen, zum einen mögliche Biasvariablen zu erheben (inwieweit z.B. die studentischen Lehrevaluationen durch die räumliche Ausstattung oder die Terminierung der Veranstaltung beeinflusst sind), zum anderen aber auch den Fokus der Lehrveranstaltungskritik zu erweitern. Ausgehend von der Literatur und vorliegenden Itementwürfen wurde daher die hier vorgestellte revidierte Version zum MFE-Vr erstellt. Ihre psychometrischen Eigenschaften wurden mit Daten aus dem Sommersemester 2009 explorativ sowie mit Daten aus dem Wintersemester 2009/10 konfirmatorisch geprüft. Ziel war dabei insbesondere, Itemformulierungen zu optimieren und relevante Aspekte möglichst handlungsnah zu erfassen, Biasvariablen zu erheben sowie die Feedbackmöglichkeiten sinnvoll zu erweitern.

Stichproben

Im Wintersemester 09/10 wurden im Rahmen der Lehrevaluation insgesamt 1308 Vorlesungsbewertungen erhoben. Aus diesen wurden 285 ausgeschlossen, entweder wegen zu vieler fehlender Werte oder weil eine oder mehrere Fragen mit "nicht sinnvoll beantwortbar" bewertet wurden. Ferner wurden die Daten aus weiteren 594 Fragebogen nicht berücksichtigt, weil sie eine identische Session-ID hatten, d.h. Beurteilungen mehrerer Veranstaltungen durch identische Studierende enthielten. Der so bereinigte und hier verwendete Datensatz umfasst somit noch Evaluationen von 429 Studierenden. 108 von ihnen waren männlich, 312 weiblich. 9 machten keine Angabe zu ihrem Geschlecht. Die Befragten waren zwischen 18 und 43 Jahren alt (M = 22.85; SD = 3.88). Die Mehrzahl (71.8%) studierte Psychologie im Bachelorstudiengang, die übrigen im Diplomstudiengang (11.9%), im Nebenfach Erziehungswissenschaften (12.1%), im Bachelorstudiengang Bildungsarbeit mit Kindern und Jugendlichen oder im Studiengang Diplom-Pädagogik (1.0%) sowie im Magisterstudiengang (0.2%). Etwa 3% beantworteten die entsprechende Frage nicht.

Die Lehrevaluation am Fach Psychologie der Universität Münster wird seit dem Wintersemester 2002/3 jeweils am Ende eines Semesters durchgeführt. Für diese Erhebungen wurde eine Online-Plattform, basierend auf PHP kombiniert mit MySQL-Datenbanken, entwickelt (Haaser et al., 2007). Einzelne Veranstaltungen im Nebenfach werden seit 2008 auch mit Papier-Bleistift Fragebogen beurteilt. In alle hier berichteten Analysen wurden Daten aus dem Wintersemester 2009/10 einbezogen.

Variablen und Auswertungsmethode

Nach bereits früher durchgeführten Hauptkomponentenanalysen der bis dahin erhobenen Evaluationsdaten (vgl. Haaser, 2006) sollten die Antworten zu den zwölf hier geprüften Items den Einfluss von drei Dimensionen indizieren: Dozent & Didaktik, Überforderung und Materialien. Das Zutreffen dieser aus früheren Ergebnissen abzuleitenden Annahme wird hier mit linearen konfirmatorischen Faktorenanalysen und unter Rückgriff auf den konventionellen Maximum Likelihood Schätzer geprüft. Alle entsprechenden Analysen erfolgten mit AMOS.

Itemanalysen

Ein konfirmatorisches Modell (Tabelle 1), welches die Items den drei theoretisch und aufgrund vorausgegangener Analysen erwarteten Faktoren Dozent & Didaktik, Überforderung und Materialien zuordnet, erzielt eine akzeptable Passung (Chi-Quadrat = 187.0, df = 51; TLI = .95, CFI = .96, RMSEA = .08). Die Subskala Dozent & Didaktik korreliert mit der Subskala Überforderung mit -.29 (p < .01) und mit der Subskala Materialien mit .87 (p < .01). Die Assoziation zwischen den Subskalen Überforderung und Materialien beträgt -.28 (p < .01).

Tabelle 1

Mittelwerte (M), Standardabweichungen (SD), Trennschärfen (T), Faktorladungen (FL) und Cronbachs Alpha (CA) bei Ausschluss des Items für die Items der drei Subskalen (N = 429)

Anm. Faktorladungen wurden mit AMOS ermittelt, die übrigen Berechnungen erfolgten mit SPSS

Itemkennwerte

Für eine Beurteilung der psychometrischen Eigenschaften der Items liegen Itemkennwerte (Tabelle 1) vor.

Reliabilität

Cronbachs Alpha beträgt .93 für die sechs Items der Subskala Dozent & Didaktik, .85 für die drei Items der Subskala Überforderung und .81 für die drei Items der Subskala Materialien. Die interne Konsistenz der Subskalen ist danach als gut bis sehr gut anzusehen, insbesondere vor dem Hintergrund der Kürze der Skalen. Diese Ergebnisse entsprechen denen aus Studien zu umfangreicheren Lehrevaluationsinstrumenten (z.B. FEVOR, Staufenbiel, 2000; HILVE, Rindermann, 2009; KIEL, Gediga et al., 2000 oder TRIL, Gollwitzer & Schlotz, 2003).

Validität

Bereits Marsh (1984) weist auf die grundsätzliche Schwierigkeit hin, Lehrevaluationsinstrumente angemessen zu validieren, da keine allgemein anerkannten Kriterien für gute Lehre existieren. Die meisten Lehrevaluationsinstrumente, wie auch die Itemsammlung von Grabbe (2003), auf der die hier vorgestellte Itembatterie aufbaut, können als Versuch angesehen werden, alle möglichen relevanten Aspekte zu erfassen. Die Reduktion der Itemzahl während der Instrumentenentwicklung hat beim MFE-Vr gegenüber umfangreicheren Instrumenten zu einer Einschränkung der betrachteten Bereiche geführt mit einer Konzentration auf Auftreten und Didaktik von Lehrenden, das von diesen verwendete Material und eine eventuelle Überforderung der Studierenden.

Nach dem multimodalen Bedingungsmodell des Lehrerfolgs stellen die Verhaltensweisen des Dozenten den wichtigsten Bedingungsfaktor des Lehrerfolgs dar (Rindermann, 2009). Dies spricht für die Inhaltsvalidität der hier vorgeschlagenen Subskala Dozent & Didaktik des MFS-Vr. Für die konvergente Validität der drei Subskalen sprechen mittlere bis sehr hohe Korrelationen ihrer Summenwerte mit einer Gesamtbewertung der jeweiligen Vorlesung (.90 für die Skala Dozent & Didaktik, -.29 für die Skala Überforderung und .77 für die Subdimension Materialien). Ihre divergente Validität belegen z.B. substantiell nicht bedeutsame Korrelationen (< .30) zwischen ihren Summenwerten und der Einschätzung der Studierenden, inwieweit der Vorlesungstermin in die private Zeitplanung passt oder der Vorlesungsraum groß genug ist. Für die diskriminate Validität aller drei Subskalen sprechen schließlich Beobachtungen, nach denen ihre Antwortsummenwerte jeweils signifikant unterschiedlich in der erwarteten Richtung für Vorlesungen ausfallen, die von den Studierenden nach einer von ihnen vergebenen Gesamtnote am besten und am schlechtesten waren (Didaktik: F (1, 65) = 91.43, p < .01, Eta-Quadrat = .59; Überforderung: F (1, 65) = 11.85, p < .01, Eta-Quadrat = .15; Materialen: F (1, 65) = 62.23, p < .01, Eta-Quadrat = .49). Alle drei Subskalen trennen also sehr deutlich zwischen der besten und schlechtesten Veranstaltung. Auch wenn alle evaluierten Veranstaltungen mit einbezogen werden zeigen sich signifikante Unterschiede zwischen den Veranstaltungen auf allen Subskalen (Didaktik: F (25, 403) = 17.53, p < .01, Eta-Quadrat = .52); Überforderung: F (25, 403) = 3.32;, p < .01, Eta-Quadrat = .17), Material: F (25, 403) = 9.8, p < .01, Eta-Quadrat = .38). Die Skalen können also zwischen den verschiedenen evaluierten Veranstaltungen trennen.

Ein zentrales Ziel der Konstruktion der hier dokumentierten Subskalen war auch ihre Ökonomie, das aufgrund nur sechs bzw. drei Items pro Subskala sicherlich als zufriedenstellend erreicht beurteilt werden kann. Sehr hohe Rücklaufquoten (im Mittel über alle Veranstaltungen rund 70 %, Thielsch et al., 2010) und regelmäßige Metaevaluationen (Haaser et al., 2007, Thielsch et al., 2010) zeigen zudem, dass Lehrende und Studierende die Befragung mit diesen Items als wenig belastend erleben, das Instrument akzeptieren und es positiv beurteilen.

Deskriptive Statistiken

Deskriptive Statistiken für die Items (Tabelle 1) und ihre Subskalen (Tabelle 2) liegen vor.

Tabelle 2

Mediane (Me), Mittelwerte (M), Standardabweichungen sowie Schiefe und Kurtosis für die Subskalen Dozent & Didaktik, Überforderung und Materialien (N = 429)

Anm. Die Berechnungen erfolgten mit SPSS