Problematische Aspekte bibliometrie-basierter Leistungsbewertung

Die zur Zeit unter dem problematischen Begriff “Fake Science” geführte Debatte fokussiert sich bisher auf die Sensationalisierung einzelner Symptome des Wissenschaftsbetriebs, die sich in teils fragwürdigen Publikationen in meist wenig relevanten “Papergräbern” äußern. Hierbei wird die Chance vertan, systemische Fehlanreize zu diskutieren. Statt dessen riecht es recht streng nach dem Zombie “Heidelberger Appell”, dessen Auferstehung viele Repository-Manager mit längst geführten Debatten um wertvolle Arbeits- und Lebenszeit bringen könnte.

Ich habe mich daher entschieden, einen eigentlich nicht zur Veröffentlichung bestimmten Text zu veröffentlichen, der darüber hinaus eigentlich noch längst nicht fertig ist. Es geht darin um “Problematische Aspekte bibliometrie-basierter Leistungsbewertung” (Arbeitstitel). Abstract:

Bibliometrie dient oftmals als Grundlage für die Beurteilung wissenschaftlicher Leistung. Dazu werden verschiedene Metriken und Indikatoren verwendet, die zur Vermessung von Publikationen oder des Outputs von Forschenden gedacht sind. Die Eignung der verwendeten Kennzahlen ist strittig. Oft ist es klar, dass sie völlig ungeeignet sind. Dennoch dienen sie nach wie vor als Grundlage, um über die Karrieren von Forschenden und somit über ihre individuelle Zukunft, aber auch die Zusammensetzung der Akteure in der Wissenschaftslandschaft zu entscheiden. Dies führt zu verschiedenen ethischen und auch ökonomischen Problemen. Initiativen wie die San Francisco Declaration of Research Assessment (DORA) versuchen, diesen Fehlentwicklungen entgegen zu wirken.

Es handelt sich bei diesem Text im Wesentlichen um eine literaturbasierte Auseinandersetzung, um eine Erkundung des Themenfeldes. Mir geht es mit der Veröffentlichung des Textes vor allem darum, ein wenig Aufmerksamkeit von den Symptomen auf die Ursachen der aktuell diskutierten Situation zu lenken. Ich hoffe auf konstruktives Feedback zur Verbesserung des Textes. Daher möchte ich an dieser Stelle auf die Möglichkeit hinweisen, den in E-LIS veröffentlichten Text via Hypothes.is zu kommentieren.

Zur Debatte selbst möchte ich übrigens diesen Kommentar von Uli Blumenthal im Deutschlandfunk (mp3) empfehlen.

Erst einmal weder Uploadfilter noch Leistungsschutzrecht auf EU-Ebene

Das EU-Parlament beweist gesunden Menschenverstand und winkt Uploadfilter und Leistungsschutzrecht auf EU-Ebene nicht durch.

Ein Blick auf das Abstimmungsverhalten der einzelnen Parteien ist sicherlich spannend. Zur Zeit ist der Server jedoch aufgrund des überbordenden demokratischen Beteiligungswillens zusammengebrochen.

Sind Upload-Filter eine Bedrohung für große Repositories?

Internet platforms hosting “large amounts” of user-uploaded content must monitor user behavior and filter their contributions to identify and prevent copyright infringement.

Der Kampf gegen diese heute vom Rechtsausschuss des EU-Parlaments abgesegnete Formulierung ist noch nicht vorbei, wie Netzpolitik richtig anmerkt. Zwar ist Upload-Filter und Leistungsschutzrecht nun zugestimmt worden, aber es existieren noch Wege, diesen Irrsinn zu verhindern.

Im Bibliothekswesen, nein, im ganzen Wissenschaftssektor sollte man darüber nachdenken, was diese Klausel für große Repositories zur Folge haben könnte. Können Betreiber großer Repositories (egal, ob Software, Forschungsdaten oder konventionelle OA-Repositories) die gewünschte Filterung gewährleisten? Müssen Arxiv.org, RePEc, Zenodo & Co nun Upload-Filter integrieren, die zwischen Zitaten, Paraphrasen und Plagiaten unterscheiden können? Wie sieht es mit Mega-Journals wie PLOS One oder PeerJ aus? Muss auch dort gefiltert und gesiebt werden? Muss auch dort das “user behaviour” überwacht werden?

Gruselige Zeiten, die von den hier namentlich erwähnten Damen und Herren herbei beschworen werden. Es ist noch nicht zu spät, um sich an die eigene Vertretung im EU-Parlament zu wenden. Wiederum Netzpolitik.org:

Noch ist es nicht zu spät. Viele EU-Abgeordnete reagieren auf Druck von Außen – umso wichtiger, dass sie auch Stimmen aus der Zivilgesellschaft vernehmen und nicht nur von finanzstarken Lobbyorganisationen. Gleich drei Plattformen bieten eine einfache Möglichkeit, wacklige Parlamentarier per E-Mail oder noch besser, kostenlos per Telefon, zu kontaktieren. Wie das erbitterte Ringen – und letztlich der Erfolg – um die europäischen Regeln zur Netzneutralität gezeigt haben, lohnt sich der Einsatz.

Wie immer gilt: Höflich bleiben und argumentieren! Eine selbst formulierte Mail und vor allem ein eigenständiger Betreff sind viel wirkungsvoller als eine vorformulierte Mail, die schnell im Spamordner landet.

Brandt, Gesche: Ursachen, Folgen und Wandel der traditionellen Arbeitsteilung in Partnerschaften von Akademikerinnen und Akademikern

Brandt, Gesche (2018): Ursachen, Folgen und Wandel der traditionellen Arbeitsteilung in Partnerschaften von Akademikerinnen und Akademikern. Dissertation. Leibniz-Universität, Hannover. Philosophische Fakultät. DOI: https://doi.org/10.15488/3481

Abstract:

Die Dissertation befasst sich mit den Ursachen, den Folgen und dem Wandel der traditionellen Arbeitsteilung in Partnerschaften von Akademikerinnen und Akademikern in Deutschland. Die übergreifende Forschungsfrage ist, welche Auswirkungen die traditionelle Arbeitsteilung infolge der Familiengründung auf die Erwerbsverläufe von Männern und Frauen mit Hochschulabschluss hat. Der Fokus auf Personen mit Hochschulabschluss liegt darin begründet, dass diese Gruppe überdurchschnittlich progressive Werthaltungen mitbringt und als Initiator sozialen Wandels gilt. Aus einer lebensverlaufstheoretischen Perspektive und mit humankapitaltheoretischen und geschlechterrollentheoretischen Erklärungen, werden verschiedene Aspekte der traditionellen Arbeitsteilung untersucht. Es werden die Aushandlungen der Elternzeitverteilung von Paaren zur Ergründung von Ursachen der traditionellen Arbeitsteilung, die Einkommensdifferenz von Männern und Frauen, als eine Folge der traditionellen Arbeitsteilung, sowie Veränderungen der Lebenslaufsmuster von Müttern und Vätern, als Hinweise auf einen Wandel der traditionellen Arbeitsteilung, behandelt. Für die empirischen Analysen werden die Daten der bundesweit repräsentativen DZHW-Absolventenpanel der Abschlussjahrgänge 1997, 2001 und 2005 genutzt. Diese umfassen insgesamt rund 14.500 Hochschulabsolvent(inn)en und deren berufliche und familiale Verläufe über einen Zeitraum von rund zehn Jahren nach dem Abschluss des Studiums. Die Analyseverfahren sind jeweils auf den Untersuchungsgegenstand angepasst und umfassen multivariate Regressionsmodelle, Effektzerlegungen und Sequenzanalysen.

Auftragsforschung in der Kritik

Bei Heise ging es kürzlich um von den technischen Universitäten geäußerte Kritik an Auftragsforschung:

Die Technischen Universitäten warnen die Wirtschaft vor einer immer stärkeren Verquickung von Forschungsgeldern und inhaltlichen Vorgaben bei Hightech-Themen. “Unser Eindruck ist, dass sich die Grenzen verschoben haben”, sagte der Präsident der TU Darmstadt, Prof. Dr. Hans Jürgen Prömel, der Deutschen Presse-Agentur. Zunehmend komme es vor, dass die Industrie selbst etwa Promotionsstellen “ausschreibe” und so versuche, die Ausrichtung wichtiger Projekte direkt zu beeinflussen.

Das ginge sogar so weit, dass erwartet würde, Forschungsergebnisse nicht zu publizieren, sondern vertraulich zu behandeln.

Das dies eine Folge der stets geforderten hohen Drittmittelquote und Industrienähe ist, ist wohl kein origineller Gedanke. Eine lesenswerte Schrift zur Messung von Forschungsleistung über die eingeworbenen Drittmittel hat Jürgen Gerhard 1) Gerhards, Jürgen (2013): Der deutsche Sonderweg in der Messung von Forschungsleistungen. Berlin: Berlin-Brandenburgische Akademie der Wissenschaften (Wissenschaftspolitik im Dialog, 7). Online verfügbar unter http://nbn-resolving.de/urn/resolver.pl?urn:nbn:de:kobv:b4-opus-23876, zuletzt geprüft am 09.07.2017.  schon 2013 erfasst. Teile seiner Kritik – auch am “Förder-Rankings” der DFG – wurden wahr- und angenommen.

Die Summe der eingeworbenen Drittmittel bildet in der Bundesrepublik die zentrale Messgröße zur Bestimmung der Qualität von Forschung. Die Zentralakteure des deutschen Wissenschaftssystems, vor allem die Deutsche Forschungsgemeinschaft, aber auch der Wissenschaftsrat, haben einen entscheidenden Anteil daran, dass Drittmittel als Forschungsleistungsindikatoren so hoch gehalten, wenn nicht fetischisiert werden. So ist das Forschungsranking der DFG, das in regelmäßigen Abständen publiziert wird und das enorm wirkungsmächtig ist, fast ausschließlich drittmittelbasiert.

Das Förder-Ranking heißt inzwischen Förderatlas. Doch auch dort heißt in der aktuell gültigen Ausgabe von 2015 noch:

Für die Gewinnung der Kennzahlen werden auch im diesjährigen Förderatlas insbesondere Daten von öffentlichen Drittmittelgebern herangezogen und ausgewertet. Dies ist deren besonderer Aussagekraft geschuldet: Drittmittel werden im Wettbewerb eingeworben, die Mittelvergabe stützt sich auf das Urteil von Peers, die als Expertinnen und Experten des jeweiligen Forschungsfelds anerkannt sind. Wenn eine Einrichtung auf einem bestimmten Gebiet in größerem Umfang Drittmittel einwirbt oder aus entsprechenden Programmen finanzierte Gastwissenschaftlerinnen und -wissenschaftler für sich gewinnen kann, dann ist damit auch ein Qualitätsurteil dieser Peers verbunden.

Auch wenn es hier nur um Drittmittel von öffentlichen Geldgebern geht, ist die Relevanz der eingeworbenen Gelder auch aus dem Industriesektor wohl unumstritten. So ist Forschungsförderung für die in Deutschland auf Bundesebene seit 2005 regierende CDU in erster Linie zur Förderung der Industrie gedacht, wie schon in der Pressemitteilung zum Leitbild für eine zukunftsfähige Hochschul- und Forschungslandschaft in Deutschland klar wird.

 

References   [ + ]

1. Gerhards, Jürgen (2013): Der deutsche Sonderweg in der Messung von Forschungsleistungen. Berlin: Berlin-Brandenburgische Akademie der Wissenschaften (Wissenschaftspolitik im Dialog, 7). Online verfügbar unter http://nbn-resolving.de/urn/resolver.pl?urn:nbn:de:kobv:b4-opus-23876, zuletzt geprüft am 09.07.2017.

Regierungsprogrammentwurf der SPD zu Open Access

Bildung und Wissenschaft sollen die Chancen der Digitalisierung stärker nutzen können. Wir wollen die offenen Kanäle für wissenschaftliche Kommunikation und Publikation fördern (Open Access). Für die Verwertung und Nutzung von Daten wollen wir Rechtssicherheit für alle schaffen und eine solide Vergütung der Urheber sowie eine angemessene Beteiligung der Verlage gewährleistet. In Forschung und Lehre sollen digitale Methoden legal genutzt werden können. Beispiele hierfür sind Text- und Datamining, also die Auswertung digitaler Datenbestände.

So schreibt die SPD in ihrem “Entwurf des Leitantrags der Programmkommission für das Regierungsprogramm 2017” in Zeile 350-356, und skizziert damit so etwas wie den sich abzeichnenden Minimalkonsens unter den Parteien. Text- und Datamining, legale Nutzung für Forschung und Lehre, Open Access. Ob und wie das dann in die Praxis umgesetzt würde, bleibt anzuwarten. Die bisherige Praxis im Bund und den Ländern spricht nicht gerade dafür, dass dieses Thema irgendeiner Partei tatsächlich wichtig wäre, dass man über einen Minimalkonsens hinaus ginge oder so sogar eigene Ideen entwickeln würde.

Nun ja, in einem Bundestagswahlprogramm werden alle Themen nur sehr kurz angeschnitten, übermäßige Kritik ist an dieser Stelle also nicht angebracht. Abzuwarten ist, wie sich das Schattenkabinett zusammensetzen wird und wer wie für diesen Bereich in die Bresche springen wird.

Jetzt: Bundesratssitzung zum Urheberrechts-Wissensgesellschafts-Gesetz – #UrhWissG

Blogthematisch relevant sind heute zwei TOPs:

  1. TOP 10: 332/17 Gesetz zur Anpassung des Datenschutzrechts an die Verordnung (EU) 2016/679 und zur Umsetzung der Richtlinie (EU) 2016/680 (Datenschutz-Anpassungs- und -Umsetzungsgesetz EU – DSAnpUG-EU)

MIT Media Lab Disobedience Award – Preis für zivilen Ungehorsam zum Wohle der Gesellschaft

Ross Mounce schrieb in der Open-Science-Mailingliste:

Nominations are now open (until May 1st) for the first MIT Media Lab Disobedience Award

https://www.media.mit.edu/posts/disobedience-award/

The award is a $250,000 prize that “will go to a person or group engaged in what we believe is extraordinary disobedience for the benefit of society. Specifically, we’d like to call out action that seeks to change society in positive ways and is consistent with a set of key principles. These principles include non-violence, creativity, courage, and taking responsibility for one’s actions. We’re seeking both expected and unexpected nominees. This could include–but isn’t limited to–those engaged in scientific research, civil rights, freedom of speech, human rights, and the freedom to innovate.”

In my personal opinion I think Alexandra Elbakyan & the Sci-Hub/LibGen community are a STRONG contender for this award! But you are of course welcome to vote for any living person or group you choose to.

Go forth and nominate your heroes of disobediance!

Library Freedom Project

Library Freedom Project is a partnership among librarians, technologists, attorneys, and privacy advocates which aims to address the problems of surveillance by making real the promise of intellectual freedom in libraries. By teaching librarians about surveillance threats, privacy rights and responsibilities, and digital tools to stop surveillance, we hope to create a privacy-centric paradigm shift in libraries and the communities they serve.

Hier geht’s zur Webseite des Library Freedom Projects, zu dem es auch eine Online-Community gibt.

3sat-Beitrag zu Journal of Interrupted Studies und Science4Refugees

In einem guten – und dazu kurzen – 3sat-Beitrag wird das Journal of Interrupted Studies (JIS) und Science4Refugees vorgestellt. JIS ist ein schönes Projekt, kann aber m.E. den eigenen Anspruch, akademische Sichtbarkeit für geflohene WissenschaftlerInnen zu schaffen, nicht einlösen. Ein Open-Access-Journal würde sowohl die WissenschaftlerInnen stärker exponieren, aber auch der wissenschaftlichen Community ermöglichen, von den Publikationen zu profitieren. Bislang ist JIS in der ZDB nicht nachgewiesen. Per DOAJ wären die Artikel aber inzwischen sicherlich in zahlreichen Bibliothekskatalogen und Discoverysystemen gelandet.