Barb Hyman, Gründerin und CEO von Sapia.ai – Interviewreihe

Barb Hyman, Gründerin und CEO von Sapia.ai ist eine erfahrene Führungskraft, deren Karriere Rechtswissenschaft, Managementberatung, Marketing, Lernen und Entwicklung, Personalwesen und Technologie umfasste. Sie begann ihre Laufbahn als Rechtsanwältin bei Herbert Smith Freehills, bevor sie in die Beratung bei Boston Consulting Group wechselte, wo sie zur Projektleiterin aufstieg und später in leitenden Funktionen zurückkehrte, die Lernen und Entwicklung, HR und Marketing in Australasien verantworteten. Hyman war außerdem Leiterin für Marketing und Sponsoring im Museum of Contemporary Art in Sydney und Executive General Manager für People & Culture bei REA Group. Sie gründete Sapia.ai im Jahr 2018 und nutzte ihre Erfahrung in Organisationsführung und Talentmanagement, um neu zu überdenken, wie Unternehmen Menschen mithilfe künstlicher Intelligenz bewerten und einstellen.

Sapia.ai ist ein KI‑gestütztes Einstellungs‑Technologieunternehmen, das sich auf strukturierte, dialogbasierte Kandidatenbewertung konzentriert. Seine Plattform nutzt chatbasierte Interviews, um Kandidaten konsistent und skalierbar zu evaluieren, und unterstützt Arbeitgeber dabei, Fähigkeiten und Eignung zu beurteilen, während die Abhängigkeit von traditionellen Lebenslauf‑Screenings und anderen potenziell voreingenommenen Signalen reduziert wird. Sapia.ai gibt an, dass seine Technologie mehr als 10 Millionen Kandidaten bewertet hat und strukturierte Bewertungswissenschaft mit KI‑gestützter Talentintelligenz, personalisiertem Kandidaten‑Feedback und Integrationen in bestehende Applicant‑Tracking‑ und HR‑Systeme kombiniert. Das Unternehmen legt zudem Wert auf Erklärbarkeit, Fairness und Unternehmens‑Compliance, wobei die umfassendere Plattform KI‑Interviews, Job‑Analyse, Interview‑Planung, Talentintelligenz und KI‑gestütztes Karrierecoaching umfasst.

Bevor Sie Sapia.ai gründeten, haben Sie eine Karriere aufgebaut, die Beratung bei Boston Consulting Group, Recht, Marketing, Lernen und Entwicklung sowie schließlich die Leitung von People & Culture bei REA Group umfasste. Welche Erfahrungen aus diesem Werdegang haben Sie davon überzeugt, dass das Einstellungswesen grundlegend neu überdacht werden muss, und welches Problem wollten Sie ursprünglich mit Sapia.ai lösen?

Die aktuelle Art, Menschen zu bewerten, ist fehlerhaft – insbesondere beim Einstellen.

Wir verlassen uns auf Lebensläufe. Wir sehen nicht die ganze Person. Wir treffen unsere wichtigsten Entscheidungen – wer eingestellt, wer befördert wird – auf Basis von Bauchgefühl und Ersatzindikatoren. Es ist weit verbreitet, Menschen einzustellen, die einem selbst ähneln: Seit wann gilt die besuchte Schule oder Universität als Indikator für Intelligenz? Das ist es nicht. Es ist ein Indikator für Privilegien.

Ein Teil davon hängt mit meiner persönlichen Geschichte zusammen. Ich bin Einwanderin und weiß, dass ich in eine glückliche Einwandererkategorie gefallen bin: Ich bin weiß und habe einen Namen, den die Leute leicht aussprechen können. Ich komme aus einer Familie, in der niemand zur Universität gegangen ist; mein Vater war Ladenbesitzer. Und doch hatte ich außergewöhnliche Chancen und nach fünf Karrieren stehe ich hier. Wenn ich an die zwei Milliarden Arbeitnehmer weltweit denke, überlege ich, wie viele von ihnen genau das Talent, den Antrieb und das kritische Denken besitzen, für das ich gelobt wurde, aber nie wahrgenommen werden, weil wir durch das Prisma unserer eigenen Erfahrung geblendet sind. Vorurteile sind eine praktische Abkürzung, um schnelle Entscheidungen zu treffen, und genau das ist der Grund, warum das Einstellen weiterhin die bereits Begünstigten belohnt. Es hat sich nie fair oder rational angefühlt.

Die andere Hälfte der Geschichte stammt aus der Beratung. Nach meinem MBA wechselte ich in eine Welt, in der man nie einen Besprechungsraum betritt und eine Empfehlung abgibt, ohne echte Recherche dahinter. Und doch wird die wichtigste Entscheidung, die ein Unternehmen trifft (wer eintritt, wer führt, wer die Kultur prägt), immer noch aus dem Bauch heraus oder anhand eines so schwachen Ersatzindikators wie dem Namen einer Universität getroffen. Menschen stehen nicht in der Bilanz, aber insbesondere in professionellen Dienstleistungsunternehmen sind sie das Kapital. Diese Diskrepanz erschien mir absurd.

Der Lebenslauf selbst hat sich seit der Erfindung des Formats durch Leonardo da Vinci kaum verändert. Wikipedia listet mehr als 180 dokumentierte menschliche Vorurteile auf. Ein Drittel der nordamerikanischen Kandidaten, die eine Bewerbung abschließen, erhalten zwei Monate später keine Rückmeldung. Das ist kein Talentproblem: Talent ist gleichmäßig verteilt, aber die Chancen sind es nicht.

Was ich mit Sapia zu lösen versuchte, war nicht nur eine Entscheidung – es beruhte auf der Erfahrung, selbst einen Job zu suchen. Mein Team lacht darüber, aber ich habe das Einstellen immer mit Dating verglichen. Es ist eine Beziehung. Man verbringt mehr Zeit mit den Menschen am Arbeitsplatz als mit dem Partner. Warum also sollte man diese Entscheidung mit weniger Strenge – den Daten – treffen, als wir bei jeder anderen wichtigen Entscheidung fordern?

Sie haben argumentiert, dass die meisten Organisationen die Einführung von KI als Effizienzprojekt angehen, obwohl sie als Vertrauensprojekt beginnen sollte. Wie sieht „Vertrauen“ in der Praxis konkret aus, und wie sollten Unternehmen es neben traditionelleren Kennzahlen wie Produktivität, Kosteneinsparungen und Akzeptanz messen?

Das habe ich als CHRO gelernt: Wenn man nicht transparent macht, warum man eine Veränderung vornimmt, geht als Erstes das Vertrauen verloren. Und ich denke, die meisten Unternehmen verkennen die KI‑Einführung. Sie messen den Produktivitätszuwachs, z. B. gesparte Stunden, die Kosten pro Einstellung, aber sie halten nie inne, um das zu messen, was tatsächlich bestimmt, ob etwas Bestand hat: Vertrauen Ihre Mitarbeitenden darauf, wie Sie KI einsetzen, und warum?

Vertrauen ist das Fundament Ihrer Kultur. Es ist keine weiche Kennzahl, die neben den echten Kennzahlen steht – es ist das, worauf die echten Kennzahlen aufgebaut sind. Denken Sie darüber nach, wie Sie über jede Beziehung nachdenken würden. Hohe Vertrauenswerte geben Ihnen Handlungsspielräume. Geringes Vertrauen macht alles kleiner, weniger unbeschwert, weniger entspannt. Und niemand leistet seine beste Arbeit, wenn er sich nicht sicher fühlt. Organisationen sind da nicht anders.

Doch ein Großteil dessen, was im Arbeitsumfeld mit KI gemacht wurde, hat die Daten der Menschen tatsächlich gegen sie eingesetzt, zum Beispiel indem die sozialen Medien einer Person durchsucht wurden, um abzuleiten, ob sie eine gute Einstellung, ein gutes Risiko oder ein schlechtes Risiko darstellt. Ich kann mir das Meeting, in dem diese Entscheidung getroffen wurde, ehrlich nicht vorstellen, noch wie jemand dachte, dass es die Kultur nicht untergraben würde, sobald die Menschen davon erfahren.

Wenn Sie also die KI-Einführung ernst meinen, muss Vertrauen von Anfang an eine Kennzahl sein, die direkt neben Produktivität und Kosteneinsparungen steht. Fragen Sie die Menschen direkt: Verstehen Sie, warum wir das einsetzen? Glauben Sie, dass es fair verwendet wird? Wenn Sie nicht auf beide Fragen mit Ja antworten können, sind die Effizienzgewinne, die Sie feiern, nur ein Darlehen gegenüber einer Kultur, die Sie stillschweigend aushöhlen.

Eine der größten Bedenken bei KI im Recruiting ist, dass Modelle aus historischen Beschäftigungsdaten lernen und möglicherweise dieselben menschlichen Vorurteile verstärken, die Organisationen zu beseitigen versuchen. Wie können Unternehmen verhindern, dass KI einfach bestehende Einstellungsbias automatisiert, und welche Schutzmechanismen sollten von Anfang an in diese Systeme eingebaut werden?

Das ist genau die Falle, die die meisten KI‑im‑Recruiting‑Gespräche übersehen, und der Grund, warum ich Sapia so aufgebaut habe, wie ich es getan habe. Wenn Sie ein Modell mit historischen Einstellungsdaten trainieren (wer eingestellt wurde, wer befördert wurde, wer das erste Vorstellungsgespräch bekam), entfernen Sie keine Vorurteile, Sie industrialisieren sie. Sie lehren eine Maschine, jede Spiegel‑Einstellungsentscheidung, jede „Kultur‑Fit“-Bewertung, jede intuitive Abkürzung, die Ihnen die bereits vorhandene Belegschaft verschafft hat, zu reproduzieren. Das ist keine Innovation. Das ist Bias in großem Maßstab, nur schneller und mit einer Hülle von Objektivität, die es schwerer macht, es zu hinterfragen.

Der Schutz muss also weiter zurück als der Algorithmus beginnen. Wir trainieren nicht mit Lebensläufen, Fotos, Namen, Universitäten oder anderen traditionellen Ersatzindikatoren, die eher mit Privilegien als mit Potenzial korrelieren. Wenn die Eingabedaten den Bias tragen, kann keine clevere Modellierung im Nachgang das beheben. Es ist das Problem „Müll rein, Müll raus“, nur dass der Müll jahrzehntelange menschliche Vorurteile sind, die als Lebenslauf getarnt sind.

Der zweite Punkt ist, woran Sie das Modell tatsächlich messen. Es reicht nicht zu sagen „die KI funktioniert“, Sie müssen kontinuierlich nach nachteiligen Auswirkungen in Bezug auf Geschlecht, Ethnizität, Alter, Behinderung und jede messbare geschützte Eigenschaft prüfen, und das fortlaufend, nicht nur als einmalige Prüfung vor dem Start. Bias ist kein einmaliger Fehler, den man behebt. Es ist etwas, das Sie ständig beobachten müssen, so wie Sie jedes System überwachen würden, das folgenschwere Entscheidungen über das Leben von Menschen trifft.

Und drittens – das ist der Punkt, den viele überspringen – Sie benötigen externe Augen. Unabhängige, externe Audits Ihrer Modelle, veröffentlichte Methodik, echte Transparenz darüber, was das System tut und was nicht. Wenn Sie Ihre KI‑Recruiting‑Lösung nur von den Personen prüfen lassen, die sie gebaut haben und finanziell motiviert sind, sie zu verteidigen, haben Sie das Vertrauensproblem nicht wirklich gelöst, sondern nur verlagert.

„Der Algorithmus hat es getan“ ist keine Entschuldigung, sondern ein Eingeständnis, dass Sie die Schutzmechanismen von Anfang an nicht eingebaut haben. Denken Sie daran, KI nimmt dem Menschen nicht die Verantwortung für Fairness ab.

Recruiting ist eine ungewöhnlich hochriskante Anwendung von KI, weil ein Algorithmus direkt die Karriere einer Person beeinflussen kann. Wo sollten Organisationen die Grenze ziehen zwischen Entscheidungen, die automatisiert werden können, und solchen, die stets einer bedeutungsvollen menschlichen Aufsicht unterliegen sollten?

Die Grenze, die ich ziehe, lautet: KI kann Ihnen absolut helfen, eine Person klarer zu sehen, aber sie sollte niemals allein über das Schicksal entscheiden. Es gibt einen echten Unterschied zwischen einer Entscheidung zu unterstützen und sie auszulagern. Recruiting ist einer der wenigen Bereiche, in denen ein Fehltritt bei dieser Unterscheidung tatsächlich das Leben einer Person verändert.

Wo also verdient die Automatisierung ihren Platz? Beim Aufzeigen von Signalen, die Menschen nur schwer beständig und fair erkennen, zum Beispiel beim Lesen von Tausenden von Interviewantworten ohne Ermüdung, ohne einen schlechten Tag zu haben und ohne unbewusst den Kandidaten zu bevorzugen, der einem selbst mit 25 Jahren ähnelt. Das ist eine Aufgabe, die KI besser erledigen kann als ein erschöpfter Personalverantwortlicher beim achten Interview des Tages. Das Screening nach echten Soft Skills, das Strukturieren von Erkenntnissen, sodass jeder Kandidat nach denselben Kriterien bewertet wird, ist dort, wo die Maschine echten Mehrwert liefert, weil wir nicht dafür gebaut sind, so konsistent zu sein.

Die endgültige Entscheidung – wer wird eingestellt, wer abgelehnt, wer bekommt eine zweite Chance – muss bei einem Menschen liegen, der dafür zur Verantwortung gezogen werden kann. Nicht als bloße Absegnung dessen, was das Modell ausgibt, sondern als echte, bedeutungsvolle Aufsicht: jemand, der versteht, was das System misst, ein Ergebnis hinterfragen kann, das falsch erscheint, und es übersteuern kann. Wenn ein Mensch die Empfehlung der KI nicht sinnvoll hinterfragen kann, ist das keine Aufsicht, sondern ein menschliches Alibi.

Ich würde auch bei allem, was irreversibel oder undurchsichtig ist, eine Grenze ziehen. Wenn ein Kandidat keine verständliche Erklärung dafür bekommt, warum er nicht weitergekommen ist, hat das System versagt, unabhängig davon, wie „genau“ es ist. Und wenn das Modell Entscheidungen trifft, die niemand im Unternehmen tatsächlich erklären kann – einschließlich der Personen, die es gebaut haben – dann ist das kein Einstellungstool, sondern eine Blackbox mit der Karriere einer Person darin. Der Test, den ich jeder Organisation geben würde, ist einfach: Könnten Sie sich gegenüber einem abgelehnten Kandidaten setzen und in einfacher Sprache erklären, warum? Wenn die ehrliche Antwort lautet: „Ich weiß es nicht, das Modell hat entschieden“, haben Sie den falschen Teil des Prozesses automatisiert.

Sapia.ai unterscheidet zwischen generativer KI, die für offene Gespräche verwendet wird, und deterministischeren Systemen, die für die Bewertung von Kandidaten eingesetzt werden. Warum ist diese Unterscheidung wichtig, insbesondere wenn KI‑Ausgaben konsistent, prüfbar und verteidigungsfähig sein müssen?

Wenn Menschen “KI” hören, gehen sie davon aus, dass es nur eine Sache ist, doch im Einstellungsprozess ist genau diese Verwechslung der Ort, an dem Dinge schiefgehen. Wir teilen die Aufgabe bewusst in zwei Teile, weil offene Gespräche und hochriskante Bewertungen völlig unterschiedliche Anforderungen haben, und die Annahme, es sei dieselbe Technologie, führt dazu, dass Unternehmen Systeme erhalten, die sie nicht erklären, verteidigen oder vertrauen können.

Generative KI ist hervorragend in der Gesprächsebene – sie ermöglicht einen natürlichen, menschlich wirkenden Austausch mit einem Kandidaten, stellt gute Anschlussfragen und lässt die Erfahrung wie ein Gespräch statt eines Formulars wirken. Genau dort benötigen Sie Flexibilität, Nuancen und sogar ein wenig Unvorhersehbarkeit, weil echte Gespräche nicht skriptbasiert sind.

Aber in dem Moment, in dem Sie vom Gespräch mit einem Kandidaten zum Bewerten übergehen, ändert sich alles, was Sie vom System benötigen. Die Bewertung muss konsistent sein: dieselbe Antwort sollte dieselbe Beurteilung erhalten, egal ob es Kandidat eins oder Kandidat tausend ist, ob es ein Montagmorgen oder ein Freitagnachmittag ist. Sie muss prüfbar sein, das bedeutet, Sie müssen zurückgehen und genau zeigen können, warum ein Kandidat die erhaltene Punktzahl bekommen hat, und nicht einfach darauf vertrauen, dass das Modell „es herausgefunden hat“. Und sie muss verteidigungsfähig sein, weil die Lebensgrundlage einer Person von dieser Punktzahl abhängt, und „das generative Modell hielt dies für eine gute Antwort“ ist kein Satz, der vor einem Regulierer, einem Journalisten oder einem Kandidaten, der wissen möchte, warum er den Job nicht bekommen hat, Bestand hat.

Generative Modelle sind von Natur aus probabilistisch – stellen Sie dieselbe Frage zweimal, erhalten Sie leicht unterschiedliche Ergebnisse. Das ist für Gespräche ein Feature, für Bewertungen jedoch ein ernstes Risiko. Bei Sapia verwenden wir deterministische Systeme für den Teil des Prozesses, der tatsächlich das Ergebnis einer Person entscheidet. Wir modellieren, dass dieselbe Eingabe zuverlässig dieselbe Ausgabe erzeugt, dass wir die Argumentation nachverfolgen können und dass wir nachweisen können, dass zwei ähnliche Kandidaten gleich behandelt werden.

Es ist im Grunde eine Trennung der Verantwortlichkeiten: Lassen Sie generative KI darin glänzen, menschlich zu wirken, und lassen Sie deterministische, prüfbare Systeme das Gewicht einer Entscheidung tragen, die fair, erklärbar und unter Prüfung verteidigungsfähig sein muss.

Erklärbarkeit wird häufig als Anforderung für verantwortungsvolle KI diskutiert, doch viele fortgeschrittene Modelle bleiben für Nutzer schwer verständlich. Wie viel Erklärung sollte ein Kandidat oder Mitarbeiter vernünftigerweise erwarten, wenn KI eine Einstellungsentscheidung beeinflusst hat?

Ich denke, Kandidaten verdienen mehr, als die meisten Unternehmen ihnen derzeit geben, und ehrlich gesagt, mehr, als die meisten Unternehmen glauben, dass sie geben können. „Der Algorithmus hat entschieden“ ist ein Eingeständnis des Scheiterns, verkleidet als Raffinesse.

Hier liegt mein Standpunkt: Ein Kandidat sollte immer in einfacher Sprache verstehen können, worauf er bewertet wurde und grob, warum er dort gelandet ist, wo er ist. Nicht die zugrunde liegende Mathematik, nicht ein Ausdruck von Modellgewichten. Was sie wollen und was ihnen zusteht, ähnelt dem, was ein guter Manager ihnen von Angesicht zu Angesicht sagen würde: Das sind die Eigenschaften, nach denen wir gesucht haben, hier waren Sie stark, hier passten Sie dieses Mal nicht am besten. Das ist ein völlig vernünftiger Anspruch, und jedes System, das diesen nicht erfüllt, sollte überhaupt keine Entscheidungen über das Einkommen einer Person treffen.

Für uns muss Erklärbarkeit von Anfang an in die Architektur integriert sein, weil man nicht erklären kann, was man nicht nachverfolgen kann.

Wo ich einwenden würde, ist die Vorstellung, dass Erklärbarkeit bedeutet, Kandidaten müssten eine technische Ausbildung darüber haben, wie das Modell funktioniert. Das ist ein falscher Standard und wird oft als Ausrede benutzt, wenn das System einfach nicht dafür ausgelegt ist, erklärt zu werden. Ein guter Arzt führt Sie nicht durch die Biochemie einer Diagnose; er sagt Ihnen, was er gefunden hat und was das für Sie bedeutet. KI im Einstellungsprozess sollte denselben Standard menschlich lesbarer Ehrlichkeit einhalten.

Der eigentliche Test ist derselbe, den ich bei menschlicher Aufsicht anwenden würde: Könnte ein Kandidat fragen „Warum bin ich nicht weitergekommen?“ und eine Antwort erhalten, die spezifisch, ehrlich und tatsächlich auf ihn zugeschnitten ist? Wenn Ihre KI diese Antwort nicht liefern kann, haben Sie kein erklärbares System gebaut. Sie haben eines gebaut, von dem Sie hoffen, dass niemand danach fragt.

Unternehmen konzentrieren sich häufig darauf, ob Mitarbeitende und Führungskräfte ein KI‑Tool nutzen, statt darauf, ob sie den Ergebnissen tatsächlich vertrauen. Welche Warnsignale deuten darauf hin, dass eine Organisation KI‑Adoption erreicht hat, ohne echtes Vertrauen in die Technologie zu gewinnen?

Adoption ist die leichteste Kennzahl, die man fälschen kann, und genau deshalb verwechseln so viele Unternehmen sie mit Erfolg. Wenn ich Ihnen sage, dass jeder im Unternehmen das KI‑Tool “nutzt”, sagt das fast nichts darüber aus, ob sie daran glauben – es könnte einfach bedeuten, dass es verpflichtend ist, dass es der Weg des geringsten Widerstands ist oder dass noch niemand einen Weg gefunden hat, es zu umgehen.

Das erste Warnsignal ist das Ausweichverhalten. Wenn Menschen das KI‑Tool verwenden, aber gleichzeitig stillschweigend den alten Prozess parallel laufen lassen – die Ausgabe manuell nachprüfen, eigene Notizen führen, ein Schatten‑System betreiben für den Fall der Fälle – dann werden die Vorgaben befolgt, aber mit einer zusätzlichen Absicherung. Die Nutzungszahlen sehen gut aus. Die Wahrheit ist, dass jeder denkt, das Tool könnte falsch liegen.

Das zweite ist das Schweigen. In einer wirklich vertrauensvollen Kultur hinterfragen die Menschen das System, wenn etwas nicht stimmt: Sie stellen Fragen, wehren sich, markieren Ergebnisse, die sich nicht richtig anfühlen. Wenn die Adoption real ist, das Vertrauen jedoch nicht, entsteht das Gegenteil. Die Menschen hören auf, das System zu hinterfragen, weil sie beschlossen haben, dass es den Aufwand nicht wert ist. Dieses Schweigen wird von der Führung fälschlicherweise als Zufriedenheit interpretiert. Es ist in Wirklichkeit Resignation.

Das dritte Warnsignal ist die Diskrepanz zwischen dem, was Menschen in einer Umfrage sagen, und dem, was sie miteinander besprechen. Ich wäre viel besorgter über ein Unternehmen, bei dem das offizielle Adoption‑Dashboard überall grün ist, die reale Unterhaltung im Pausenraum aber lautet: “Ja, wir machen einfach, was das Tool sagt, weil das einfacher ist, als zu diskutieren” – das ist eine Kultur, die noch nicht überzeugt ist.

Und das tiefste Warnsignal, das mir am wichtigsten ist: wenn Menschen überhaupt aufhören, ihr eigenes Urteil einzubringen. Das ist Abdankung. Echtes Vertrauen in ein Tool bedeutet, dass Menschen sich weiterhin befähigt fühlen, ihm zu widersprechen, wenn ihre eigene Expertise etwas anderes sagt – und sich dabei sicher fühlen. Wenn Ihre Manager still geworden sind und einfach dem folgen, was die KI sagt, haben Sie Abhängigkeit geschaffen.

Der eigentliche Test lautet also nicht “nutzt es jemand?”, sondern “würden die Menschen es freiwillig weiter nutzen, wenn es optional wäre, und würden sie Ihnen ehrlich sagen, wenn es etwas falsch gemacht hat?” Die meisten Unternehmen haben nie wirklich eine dieser Fragen gestellt. Das ist meist das entscheidende Zeichen.

KI‑Einstellungswerkzeuge können potenziell Kandidaten in einem Umfang und einer Konsistenz bewerten, die menschliche Recruiter nicht erreichen können, doch die Einstellung beinhaltet auch Kontext und Nuancen. Wo glauben Sie, dass KI heute die menschliche Urteilskraft übertreffen kann, und wo sind Menschen nach wie vor unverzichtbar?

KI kann ein großartiges Werkzeug sein, um einen großen Pool von Kandidaten unabhängig von deren Hintergrund und Erfahrungen zu beurteilen, während sie gleichzeitig maßgeschneiderte Bewertungen für Kandidaten mit spezifischen Bedürfnissen liefert. Ein menschlicher Recruiter könnte eher dazu neigen, Kandidaten von einer hochrangigen Universität oder ohne vorherige Gesundheitsprobleme zu bevorzugen. KI führt eine faire, gleiche Bewertung aller Kandidaten durch, auf eine Weise, die Menschen nicht leisten können, wenn sie mit Hunderten von Bewerbungen konfrontiert sind. Dennoch bleibt menschliches Urteil unverzichtbar, um zu beurteilen, ob ein Kandidat in die Unternehmenskultur passt oder die von Kunden geforderten Standards erfüllt.

Wenn KI immer tiefer in Rekrutierung, Coaching, Leistungsmanagement und andere Personalentscheidungen eingebettet wird, wie sollte dann die Verantwortlichkeit strukturiert sein, wenn eine KI‑unterstützte Entscheidung ein unfaires oder falsches Ergebnis liefert?

Verantwortlichkeit bei KI bleibt bestehen, wenn Menschen die endgültigen Entscheidungen treffen, während der Rekrutierungs‑Workflow Transparenz, Erklärbarkeit und rigorose Bias‑Tests beinhaltet. Wir haben das FAIR™‑Modell eingeführt, um verantwortungsvolle KI‑Praxis zu fördern. Es empfiehlt:

• Unvoreingenommenheit: Testen Sie auf Bias und verwenden Sie die richtigen statistischen Maße – wie die 4/5‑Regel, Gleichheit der Fehlerquoten und andere relevante Bias‑Tests – um sicherzustellen, dass die Ergebnisse fair sind.
• Validität: KI‑gestützte Evidenz basiert auf tatsächlichen Daten und ist mit dem Ergebnis verknüpft, das sie vorhersagen soll.
• Erklärbarkeit: Haben Sie klare Dokumentation und Werkzeuge, um Ergebnisse zu interpretieren, was die KI über einen Kandidaten identifiziert hat und wie das zu seiner Bewertung beigetragen hat.
• Inklusivität: Das bedeutet, sicherzustellen, dass Kandidaten während des gesamten Prozesses, von der Bewerbung bis zur Entscheidungsfindung, fair behandelt werden. Es ist ein End‑to‑End‑Blick auf das Einstellungserlebnis – einschließlich Menschen, Prozesse, Technologie und KI, die zusammenarbeiten.

Wie sehen Sie die Zukunft: Wird KI hauptsächlich zu einer Entscheidungsschicht innerhalb von HR‑Systemen, oder wird ihre wichtigere Rolle im Gesprächs‑ bzw. Beratungsbereich liegen, um Kandidaten und Mitarbeitenden zu helfen, Chancen besser zu verstehen, Fähigkeiten zu entwickeln und ihre Karrieren zu navigieren?

Selbst die fortschrittlichsten Technologien brauchen menschliche Zuwendung, menschliches Urteilsvermögen und menschliche Aufsicht. KI soll den Prozess unterstützen und sicherstellen, dass alle Kandidaten eine faire und gleiche Chance haben, für eine Stelle berücksichtigt zu werden. Bei Sapia nennen wir dies gern einen „Ansatz mit menschlicher Einbindung“, bei dem wir menschliche und maschinelle Intelligenz kombinieren, um intelligente Chat-Erlebnisse zu schaffen, die Vorhersagen ermöglichen, verantwortungsvoll und personalisiert sind. Dazu beziehen wir unsere Kunden ein, sodass wir Genauigkeit und Fairness fortlaufend überprüfen und zugleich unsere KI-Modelle darauf trainieren, sich mit der Zeit weiterzuentwickeln.

Unser menschlicher Ansatz spiegelt sich auch in dem wider, was wir Kandidaten bieten. Vor kurzem haben wir Phai gestartet, einen Karrierecoach, der als Mentor fungiert und Arbeitssuchenden personalisierte Orientierung, Stärken‑Mapping und Interviewvorbereitung bietet, damit sie ihrer nächsten Chance selbstbewusst entgegentreten können. Es ist ein positives Werkzeug, um Kandidaten über das Ergebnis des Interviews hinaus motiviert zu halten.

Danke für das großartige Interview, Leser, die mehr erfahren möchten, sollten Sapia.ai besuchen.