Jonathan Dambrot, CEO & Co-Founder von Cranium AI – Interview-Serie

Jonathan Dambrot ist der CEO & Co-Founder von Cranium AI, einem Unternehmen, das Cyber-Sicherheits- und Data-Science-Teams hilft, zu verstehen, wo überall künstliche Intelligenz (KI) ihre Systeme, Daten oder Dienstleistungen beeinflusst.

Jonathan ist ein ehemaliger Partner bei KPMG, ein Branchenführer im Bereich Cybersicherheit und Visionär. Vor seiner Zeit bei KPMG führte er Prevalent zu einem Branchenführer bei Gartner und Forrester im Bereich Risikomanagement für Dritte, bevor das Unternehmen im späten Jahr 2016 an Insight Venture Partners verkauft wurde. Im Jahr 2019 übergab Jonathan die Rolle des CEO bei Prevalent, als das Unternehmen unter neuer Führung weiter wachsen wollte. Er wurde in zahlreichen Publikationen zitiert und spricht regelmäßig mit Kunden über Trends im Bereich IT, Informationssicherheit und Compliance.

Können Sie die Entstehungsgeschichte hinter Cranium AI teilen?

Ich hatte die Idee für Cranium im Juni 2021, als ich Partner bei KPMG war und die Third-Party-Sicherheitsdienste weltweit leitete. Wir bauten und lieferten KI-gestützte Lösungen für einige unserer größten Kunden, und ich stellte fest, dass wir nichts unternahmen, um sie vor adversarialen Bedrohungen zu schützen. Also stellte ich dieselbe Frage den Sicherheitsführern bei unseren größten Kunden, und die Antworten, die ich erhielt, waren genauso schlecht. Viele der Sicherheitsteams hatten noch nie mit den Datenwissenschaftlern gesprochen – sie sprachen völlig unterschiedliche Sprachen, wenn es um Technologie ging, und hatten letztendlich null Sichtbarkeit in die KI, die über das Unternehmen lief. All dies kombiniert mit der stetig wachsenden Entwicklung von Vorschriften war der Auslöser, eine Plattform zu bauen, die KI schützen konnte. Wir begannen mit dem KPMG-Studio-Inkubator zu arbeiten und brachten einige unserer größten Kunden als Design-Partner, um die Entwicklung zu unterstützen und die Bedürfnisse dieser großen Unternehmen zu erfüllen. Im Januar dieses Jahres kam Syn Ventures, um die Seed-Finanzierung abzuschließen, und wir spalteten uns im März unabhängig von KPMG ab und kamen im April 2023 aus dem Versteck.

Was ist die Cranium AI-Karte und welche wichtigen Erkenntnisse gibt sie?

Die Cranium AI-Karte ermöglicht es Organisationen, Informationen über die Vertrauenswürdigkeit und Compliance ihrer KI-Modelle mit Kunden und Regulierungsbehörden effizient zu sammeln und zu teilen und gibt Einblick in die Sicherheit der KI-Systeme ihrer Lieferanten. Letztendlich möchten wir Sicherheits- und Compliance-Teams mit der Fähigkeit ausstatten, die Sicherheit der KI in ihrer Lieferkette zu visualisieren und zu überwachen, ihre eigenen KI-Systeme mit aktuellen und kommenden Compliance-Anforderungen und -Rahmenwerken in Einklang zu bringen und leicht zu teilen, dass ihre KI-Systeme sicher und vertrauenswürdig sind.

Welche Vertrauensprobleme haben Menschen mit KI, die mit dieser Lösung gelöst werden?

Menschen möchten im Allgemeinen wissen, was hinter der KI steckt, die sie verwenden, insbesondere da immer mehr ihrer täglichen Arbeitsabläufe auf die eine oder andere Weise von KI betroffen sind. Wir möchten unseren Kunden die Fähigkeit geben, Fragen zu beantworten, die sie bald von ihren eigenen Kunden erhalten werden, wie “Wie wird dies geregelt?”, “Was wird getan, um die Daten und Modelle zu sichern?” und “Wurde diese Information validiert?”. Die KI-Karte gibt Organisationen eine schnelle Möglichkeit, diese Fragen zu beantworten und die Transparenz und Vertrauenswürdigkeit ihrer KI-Systeme zu demonstrieren.

Im Oktober 2022 veröffentlichte das Weiße Haus-Büro für Wissenschaft und Technologie (OSTP) einen Plan für ein KI-Recht, der einen nicht bindenden Fahrplan für den verantwortungsvollen Einsatz von KI bereitstellte. Können Sie Ihre persönlichen Ansichten zu den Vor- und Nachteilen dieses Gesetzes teilen?

Obwohl es unglaublich wichtig ist, dass das Weiße Haus diesen ersten Schritt unternommen hat, um die Leitprinzipien für verantwortungsvolle KI zu definieren, glauben wir nicht, dass es weit genug ging, um Organisationen und nicht nur Einzelpersonen, die sich Sorgen über eine KI-basierte Entscheidung machen, Anleitung zu geben. Zukünftige regulatorische Anleitung sollte nicht nur für Anbieter von KI-Systemen, sondern auch für Nutzer gelten, um diese Technologie auf sichere und sichere Weise zu nutzen. Letztendlich ist der große Vorteil, dass KI-Systeme sicherer, integrativer und transparenter sein werden. Ohne jedoch ein risikobasiertes Rahmenwerk für Organisationen, um sich auf zukünftige Regulierungen vorzubereiten, besteht die Gefahr, dass die Innovationsgeschwindigkeit verlangsamt wird, insbesondere in Situationen, in denen die Erfüllung von Transparenz- und Erklärbarkeitsanforderungen technisch nicht machbar ist.

Wie unterstützt Cranium AI Unternehmen bei der Einhaltung dieses Rechts?

Cranium Enterprise hilft Unternehmen bei der Entwicklung und Bereitstellung sicherer und sicherer Systeme, was das erste Schlüsselprinzip innerhalb des Rechts ist. Darüber hinaus hilft die KI-Karte Organisationen bei der Erfüllung des Grundsatzes der Mitteilung und Erklärung, indem sie Details über die Funktionsweise ihrer KI-Systeme und die verwendeten Daten teilen können.

Was ist das NIST-KI-Risikomanagement-Framework und wie wird Cranium AI Unternehmen bei der Erfüllung ihrer KI-Compliance-Verpflichtungen für dieses Framework unterstützen?

Das NIST-KI-Risikomanagement-Framework ist ein Rahmenwerk für Organisationen, um die mit KI verbundenen Risiken für Einzelpersonen, Organisationen und die Gesellschaft besser zu managen. Es folgt einer sehr ähnlichen Struktur wie ihre anderen Frameworks, indem es die Ergebnisse eines erfolgreichen Risikomanagement-Programms für KI skizziert. Wir haben unsere KI-Karte den im Framework skizzierten Zielen zugeordnet, um Organisationen bei der Verfolgung zu unterstützen, wie ihre KI-Systeme mit dem Framework übereinstimmen, und da unsere Unternehmensplattform bereits viele dieser Informationen sammelt, können wir einige der Felder automatisch ausfüllen und validieren.

Das EU-KI-Gesetz ist eines der bedeutendsten KI-Gesetze, die wir in der jüngsten Geschichte gesehen haben. Warum sollten nicht-EU-Unternehmen diesem Gesetz folgen?

Ähnlich wie die DSGVO für Datenschutz wird das KI-Gesetz die Art und Weise, wie globale Unternehmen ihre KI-Systeme entwickeln und betreiben, grundlegend ändern. Unternehmen außerhalb der EU müssen den Anforderungen Beachtung schenken und sie einhalten, da KI-Systeme, die europäische Bürger nutzen oder beeinflussen, den Anforderungen unterliegen, unabhängig von der Gerichtsbarkeit des Unternehmens.

Wie bereitet sich Cranium AI auf das EU-KI-Gesetz vor?

Bei Cranium haben wir die Entwicklung des KI-Gesetzes von Anfang an verfolgt und das Design unseres KI-Karten-Produktangebots so gestaltet, dass es Unternehmen bei der Erfüllung der Compliance-Anforderungen unterstützt. Wir glauben, dass wir einen großen Vorsprung haben, da wir das KI-Gesetz von Anfang an und seine Entwicklung im Laufe der Jahre sehr früh erkannt haben.

Warum sollte verantwortungsvolle KI für Unternehmen eine Priorität sein?

Die Geschwindigkeit, mit der KI in jeden Geschäftsprozess und jede Funktion integriert wird, bedeutet, dass Dinge schnell außer Kontrolle geraten können, wenn sie nicht verantwortungsvoll gehandhabt werden. Die Priorisierung verantwortungsvoller KI jetzt, am Anfang der KI-Revolution, ermöglicht es Unternehmen, effektiver zu skalieren und nicht in große Hindernisse und Compliance-Probleme zu laufen.

Was ist Ihre Vision für die Zukunft von Cranium AI?

Wir sehen Cranium als wahren König der sicheren und vertrauenswürdigen KI. Obwohl wir nicht alles lösen können, wie komplexe Herausforderungen wie ethischer Einsatz und Erklärbarkeit, möchten wir mit Führungskräften in anderen Bereichen der verantwortungsvollen KI zusammenarbeiten, um ein Ökosystem zu schaffen, das es unseren Kunden ermöglicht, alle Bereiche der verantwortungsvollen KI abzudecken. Wir möchten auch mit den Entwicklern innovativer generativer KI-Lösungen zusammenarbeiten, um die Sicherheit und Vertrauenswürdigkeit dieser Fähigkeiten zu unterstützen. Wir möchten, dass Cranium Unternehmen auf der ganzen Welt ermöglicht, auf sichere und vertrauenswürdige Weise weiter zu innovieren.

Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten Cranium AI besuchen.