Forscher glauben, dass KI dazu beitragen kann, die Privatsphäre der Menschen zu schützen

Zwei Professoren für Informationswissenschaften haben kürzlich einen Artikel in The Conversation veröffentlicht, in dem sie argumentieren, dass KI dazu beitragen kann, die Privatsphäre der Menschen zu bewahren und einige der Probleme zu lösen, die sie selbst verursacht hat.

Zhiyuan Chen und Aryya Gangopadhyay argumentieren, dass Algorithmen der künstlichen Intelligenz verwendet werden können, um die Privatsphäre der Menschen zu verteidigen und einige der vielen Datenschutzbedenken zu entkräften, die durch andere Anwendungen der KI entstanden sind. Chen und Gangopadhyay erkennen an, dass viele der von uns für den Komfort verwendeten KI-gesteuerten Produkte ohne den Zugriff auf große Mengen an Daten nicht funktionieren würden, was auf den ersten Blick im Widerspruch zu den Bemühungen zur Wahrung der Privatsphäre zu stehen scheint. Darüber hinaus wird, wenn die KI in immer mehr Branchen und Anwendungen eingesetzt wird, mehr Daten gesammelt und in Datenbanken gespeichert, was die Verletzlichkeit dieser Datenbanken erhöht. Chen und Gangopadhyay sind jedoch der Meinung, dass die KI, wenn sie richtig eingesetzt wird, dazu beitragen kann, diese Probleme zu mildern.

Chen und Gangopadhyay erklären in ihrem Beitrag, dass die Datenschutzrisiken im Zusammenhang mit der KI aus mindestens zwei verschiedenen Quellen stammen. Die erste Quelle sind die großen Datensätze, die zur Ausbildung von neuronalen Netzen gesammelt werden, während die zweite Datenschutzbedrohung die Modelle selbst sind. Daten können möglicherweise aus diesen Modellen “auslaufen”, da das Verhalten der Modelle Details über die zur Ausbildung verwendeten Daten preisgeben kann.

Tiefe neuronale Netze bestehen aus mehreren Schichten von Neuronen, die jeweils mit den umliegenden Schichten verbunden sind. Die einzelnen Neuronen sowie die Verbindungen zwischen den Neuronen codieren unterschiedliche Teile der Trainingsdaten. Das Modell kann sich als zu gut im Merken von Mustern der Trainingsdaten erweisen, auch wenn das Modell nicht überanpasst ist. Spuren der Trainingsdaten existieren innerhalb des Netzwerks, und bösartige Akteure können möglicherweise Aspekte der Trainingsdaten erkennen, wie Cornell University bei einer ihrer Studien festgestellt hat. Cornell-Forscher fanden heraus, dass Gesichtserkennungsalgorithmen von Angreifern ausgenutzt werden können, um zu enthüllen, welche Bilder und somit welche Personen zur Ausbildung des Gesichtserkennungsmodells verwendet wurden. Die Cornell-Forscher entdeckten, dass ein Angreifer sogar dann, wenn er keinen Zugriff auf das ursprüngliche Modell hat, das zur Ausbildung der Anwendung verwendet wurde, möglicherweise immer noch in der Lage ist, das Netzwerk zu scannen und zu bestimmen, ob eine bestimmte Person in den Trainingsdaten enthalten war, einfach indem er Modelle verwendet, die auf sehr ähnlichen Daten ausgebildet wurden.

Einige KI-Modelle werden derzeit verwendet, um gegen Datenlecks vorzubeugen und die Privatsphäre der Menschen zu schützen. KI-Modelle werden häufig verwendet, um Hacking-Versuche durch Erkennen der Verhaltensmuster zu erkennen, die Hacker verwenden, um Sicherheitsmethoden zu durchbrechen. Hacker ändern jedoch oft ihr Verhalten, um die Mustererkennung der KI zu täuschen.

Neue Methoden der KI-Ausbildung und -Entwicklung zielen darauf ab, KI-Modelle und -Anwendungen weniger anfällig für Hacking-Methoden und Sicherheits-Evasions-Taktiken zu machen. Adversarial Learning versucht, KI-Modelle auf Simulatoren von schädlichen oder schädigenden Eingaben auszubilden und damit das Modell robuster gegen Ausnutzung zu machen, daher der Name “adversarial”. Laut Chen und Gangopadhyay haben ihre Forschungen Methoden entdeckt, um Schadsoftware zu bekämpfen, die darauf abzielt, private Informationen von Menschen zu stehlen. Die beiden Forscher erklärten, dass eine der Methoden, die sie als am effektivsten gegen Schadsoftware gefunden haben, die Einführung von Unsicherheit in das Modell ist. Das Ziel ist es, es bösen Akteuren zu erschweren, vorherzusagen, wie das Modell auf eine bestimmte Eingabe reagieren wird.

Andere Methoden, um KI zur Privatsphäre-Schutz zu nutzen, umfassen die Minimierung der Datenexposition, wenn das Modell erstellt und ausgebildet wird, sowie das Scannen, um die Verwundbarkeiten des Netzwerks zu entdecken. Wenn es um die Wahrung der Datenprivatsphäre geht, kann federated Learning dazu beitragen, die Privatsphäre sensibler Daten zu schützen, da es ermöglicht, ein Modell auszubilden, ohne dass die Trainingsdaten jemals die lokalen Geräte verlassen, die die Daten enthalten, und somit die Daten und viele der Modellparameter vor Spionage schützt.

Letztendlich argumentieren Chen und Gangopadhyay, dass die Verbreitung der KI neue Bedrohungen für die Privatsphäre der Menschen geschaffen hat, die KI jedoch auch dazu beitragen kann, die Privatsphäre zu schützen, wenn sie mit Sorgfalt und Bedacht entworfen wird.