Was sind Vanity Metrics?
Eitelkeit, als Adjektiv, bedeutet "als Schaufenster für die eigenen Talente produziert" - d.h. eine Eitelkeitsproduktion. Wenn wir unsere eigenen Talente zur Schau stellen, wählen wir aus, was uns gut aussehen lässt und ignorieren, was nicht gut aussieht.
In diesem Beitrag befassen wir uns mit einem IT-Operations-Team, das sich in einer interessanten, wenn auch nicht ungewöhnlichen Situation befindet, in der es um Eitelkeitsmetriken geht. Dann werde ich die Gefahren von Eitelkeitsmetriken erörtern und Ihnen einen Schnelltest vorstellen, mit dem Sie Ihre eigenen Erfolgsmessungen bewerten können.
Ein Beispiel für IT-Operationen: Die fünf 9's
Chad ist Systemadministrator in einem IT-Betriebsteam bei einem großen lokalen Unternehmen. Sein Manager sagt, dass eine Systemverfügbarkeit von fünf 9's (99.999% Betriebszeit) ist der heilige Gral für jedes IT-Betriebsteam, das etwas auf sich hält. Aus diesem Grund misst das Team von Chad die Systembetriebszeit für jeden Dienst als primäre Erfolgsgröße.
The web server hosting their company’s e-commerce site is only experiencing 98.5% uptime, and customers are complaining about outages while sales continue to slow. When the IT Ops team looks at the information they have gathered, they notice that 75 % of the downtime is happening around the time that the overnight scripts run. Chad determines that there is something in that script, or the data it uses, that brings the server down.
Nach der Entdeckung dieser Informationen macht sich das Team sofort daran, dieses peinliche Hindernis für die Betriebszeit zu beseitigen. Wenn sie das beheben können, könnte Chads Team sagen, dass sie eine höhere Betriebszeit hatten, was die Kundenbeschwerden sicherlich lindern, die Umsätze wieder auf ihr normales Niveau bringen und das Management glücklich machen würde!
Eine Woche später wurde die Korrektur getestet und bereitgestellt. Nach einiger Zeit der Überwachung der Änderungen in der Produktionsumgebung stellen Chad und sein Team fest, dass die Systemverfügbarkeitszahlen in der Tat deutlich höher sind, aber die Kundenbeschwerden aus unerfindlichen Gründen immer noch auf demselben Niveau liegen. Wie kann das sein?
Verblüfft recherchierten sie das Kundenverhalten auf ihrer Website und stellten fest, dass die meisten Ausfallzeiten keine wirklichen Auswirkungen auf die Kunden hatten, da sie auftraten, wenn die Kunden schliefen - der Verkehr auf der Website war also minimal. Auch wenn sie viele Ausfallzeiten beseitigt haben, hat diese Reduzierung nichts zur Verbesserung der Kundenerfahrung beigetragen. Die Arbeit von einer Woche ist umsonst, die Kunden sind immer noch verärgert und der Umsatz ist nicht gestiegen.
Die Mannschaft ist verwirrt und das Management ist frustriert. Wie kann es sein, dass sie bei ihrer wichtigsten Erfolgskennzahl besser abschneiden, aber dort, wo es darauf ankommt, keine Verbesserungen sehen? Sie stellen die Gültigkeit des Ziels der Fünf 9 in Frage.
Wie man eine Eitelkeitsmetrik erkennt
Leider ist die Situation, mit der Chad und sein Team konfrontiert sind, keine Seltenheit. Sie sind mit dem Kopf voran in die gefürchtete Eitelkeitsmetrik gerannt. Alle Arten von Teams werden Opfer von Eitelkeitsmetriken, von Marketingteams bis hin zu IT-Betriebsteams wie dem von Chad. Es gibt jedoch einige allgemeingültige Methoden, um diese gefährlichen Metriken zu identifizieren, unabhängig davon, in welcher Art von Team wir tätig sind.
Ein gemeinsames Merkmal von Eitelkeitsmetriken ist, dass sie oft die Aktivität und nicht den Fortschritt messen. Diese Arten von Eitelkeitsmetriken können auch als Produktivitätsmetriken bezeichnet werden. Diese Art von Metriken sind in vielen Arbeitsverfolgungssystemen zu finden - ein Grund, warum so viele Menschen darauf hereinfallen.
Solange wir nicht in einer Fabrik sind, die immer und immer wieder den gleichen Artikel produziert, messen Produktivitätskennzahlen wie "Anzahl der abgeschlossenen Tickets" nicht den gelieferten Wert. Wir möchten besser verstehen, welche Auswirkungen die Menschen haben, die diese Tickets schließen. Wir sind nicht in der Produktion tätig, sondern in der Schöpfung, und die Schöpfung hat notwendige Variationen, die diese Metriken als Verschwendung behandeln. Seien Sie vorsichtig mit jeder Kennzahl, die mit "# of" beginnt.
Der "Na und?"-Test Test
Leider sind nicht alle Eitelkeitsmetriken so leicht anhand ihres Namens identifizierbar. Aber es gibt immer noch eine Möglichkeit, sie aufzuspüren. Das verräterische Zeichen einer jeden Eitelkeitsmetrik ist, dass sie den "Na und?"-Test nicht besteht. Jede Kennzahl kann eine Reaktion hervorrufen, aber treibt Ihre Kennzahl auch Aktionen voran, die Ihren eigentlichen Zielen dienen? Eine aussagekräftige Kennzahl sollte in der Lage sein, eine dieser beiden wesentlichen Fragen positiv zu beantworten:
- Ist diese Kennzahl für meinen Kunden wichtig?
- Treibt mich das zum Handeln an oder hilft es mir, eine Entscheidung zu treffen?
Wenn die Antwort auf beide Fragen nein lautet, haben Sie es mit einer Eitelkeitskennzahl zu tun, die Ihre Zeit nicht wert ist.
Die Gefahren von Eitelkeitsmetriken
Eitelkeitsmetriken verschwenden nicht nur unsere Zeit, sie können auch gefährlich sein. Wir Menschen unterschätzen unseren angeborenen Wunsch, unser Verhalten zu optimieren, um die Ziele zu erreichen, die uns vorgegeben werden. Selbst die wohlmeinendste Person kann in Versuchung geraten, ein Ticket etwas zu früh zu schließen, weil sie etwas auf einer Liste abhaken und sich produktiv fühlen möchte. Dinge zu Ende zu bringen ist ein nobles Ziel. Können Sie sich vorstellen, was passieren würde, wenn Sie anfangen würden, eine Kennzahl wie "Anzahl der abgeschlossenen Tickets" als vergütungsbasierten Anreiz zu verwenden?
Gefahr #1: Zahlen optimieren, nicht Werte liefern
Wie Eli Goldratt sagte: "Sagen Sie mir, wie Sie mich messen wollen, und ich sage Ihnen, wie ich mich verhalten werde." Wenn Sie die Mitarbeiter an der Anzahl der abgeschlossenen Tickets messen, ermutigen Sie sie, ihr Bestes zu geben und die Tickets so schnell wie möglich abzuschließen. Das klingt zwar oberflächlich betrachtet gut, aber seien Sie vorsichtig, was Sie sich wünschen: Die Umwandlung von Eitelkeitsmetriken in Ziele ist eine schlüpfrige Angelegenheit. Wir fangen an, so sehr auf die Zahlen zu optimieren, dass wir mit der Zeit das ursprüngliche Ziel, nämlich die Schaffung von Mehrwert, aus den Augen verlieren. Jetzt tun wir alles, was wir können, um mehr zu liefern, selbst wenn die Dinge, die wir liefern, keinen Wert haben. Goldratt erklärte dies perfekt, als er sagte: "Wenn Sie mich auf unlogische Weise messen, beschweren Sie sich nicht über unlogisches Verhalten."
Gefahr #2: Den Menschen die Schuld geben, nicht dem Problem
Was wir messen, zeigt den Menschen, worauf wir Wert legen, und die Messung von Eitelkeitskennzahlen macht es wahrscheinlicher, dass wir ein Verhalten fördern, das unseren erklärten Zielen nicht zuträglich ist. Wenn das passiert, beginnen wir uns zu fragen, warum die Menschen um uns herum so ineffektiv sind. Die harte Wahrheit: Wir können die Effizienz nicht messen und erwarten, dass sie uns etwas über unsere Effektivität sagt. Die Messung von Eitelkeitsmetriken erhöht die Wahrscheinlichkeit, dass wir Systemprobleme schaffen, die als Menschenprobleme fehlinterpretiert werden.
"Menschen, die Ziele haben und deren Arbeitsplatz von der Erfüllung dieser Ziele abhängt, werden diese Ziele wahrscheinlich erfüllen - selbst wenn sie dafür das Unternehmen zerstören müssen."
- W. Edwards Deming
Aussagekräftige Metriken
Nachdem Chads Team das Konzept der Eitelkeitsmetriken auf die harte Tour kennengelernt hat, misst es zwar immer noch die Systemverfügbarkeit, aber jetzt in dem spezifischen Kontext der Auswirkungen auf den Kunden. Wenn Probleme auftauchen, die die Betriebszeit beeinträchtigen, werden sie auf der Grundlage der möglichen Auswirkungen auf den Kunden priorisiert. Diese Metrik führt dazu, dass Chads Team bessere Entscheidungen über seine Arbeit treffen kann.
Chads Team hat seine anderen Erfolgsmetriken dem "Na und?"-Test unterzogen. Hier sind ein paar Metriken, die bestanden haben:
MTTR (Mean Time To Recovery) - Das Team ist sich bewusst, dass Vorbeugung nicht immer möglich ist, und ist bestrebt, die Kunst der Reaktion auf Ausfallzeiten zu verfeinern, so dass die Folgen für den Kunden so gering wie möglich gehalten werden können, wenn er davon betroffen ist. Wie lange dauert es, bis Sie sich von einer Katastrophe erholen?
Vorlaufzeit für die Bereitstellung - Wie lange dauert es, bis eine Codeänderung dem Endbenutzer zur Verfügung steht, wenn sie einsatzbereit ist? IT-Ops-Teams wie das von Chad haben oft einen großen Anteil an diesem Prozess. Wenn Sie diesen Trend beobachten, können Sie schnell auf interne Probleme reagieren, die Sie daran hindern, schnell auf Kundenfeedback zu reagieren. Schnelle Feedbackschleifen sind entscheidend für die Herstellung von Qualitätsprodukten, die für den Markt relevant sind.
Vorfälle nach Service - Anhand dieser Metrik kann das Team verfolgen, bei welchem Service/welcher Anwendung die meisten Probleme gemeldet werden. Wenn ein Dienst ständig eine hohe Anzahl von Vorfällen meldet, sagt Ihnen das zwei Dinge: 1) es kümmert sich jemand darum und 2) es könnte für Sie von Vorteil sein, wenn Sie sich um den Dienst kümmern, damit Ihr Team in Zukunft weniger Zeit mit Vorfällen verbringt.
Aufschlüsselung der aufgewendeten Zeit - Wie viel Zeit verbringt das Team damit, Brände zu löschen, an Projekten zu arbeiten, Verbesserungswünsche von Kunden zu bearbeiten oder dem Team die Arbeit zu erleichtern? Wir haben oft Erwartungen, die überprüft werden müssen. Anhand dieser Kennzahl können Sie erkennen, wann Sie die Probleme, die ein Ungleichgewicht verursachen, angehen oder Ihre Erwartungen zurückschrauben müssen.
Stellen Sie Ihre Metriken auf den Prüfstand
Wenn Sie Chads Beispiel folgen möchten, können Sie damit beginnen, Ihr Team oder Ihre Organisation von eitlen Metriken zu befreien:
- Identifizierung des gesamten Inventars an Metriken
- Verstehen Sie die Absicht hinter jeder Kennzahl
- Unterziehen Sie jede Kennzahl dem "Na und?"-Test
- Entfernen oder Reparieren von Metriken, die den Test nicht bestanden haben
- Schaffung eines gemeinsamen Verständnisses der Kriterien für neue Metriken
Gute Kennzahlen geben tatsächlich Aufschluss über den Teamerfolg. Da jedes Team anders ist, kann sich das, was Ihr Team zur Messung des Erfolgs benötigt, von dem unterscheiden, was andere Teams benötigen. Sie wissen jedoch, dass Sie auf dem richtigen Weg sind, wenn Ihre Kennzahlen in einer kausalen und nicht in einer korrelativen Beziehung zu Ihren Zielen stehen.
Halten Sie Ausschau nach dem nächsten Beitrag dieser Serie, in dem wir Ihnen die drei wichtigsten Metriken vorstellen, die IT Ops-Teams messen sollten.