Forscher glauben, dass KI verwendet werden kann, um die Privatsphäre der Menschen zu schützen

Zwei Professoren für Informationswissenschaft haben kürzlich einen Artikel in The Conversation veröffentlicht, in dem sie argumentieren, dass KI dazu beitragen kann, die Privatsphäre der Menschen zu bewahren und einige der Probleme zu beheben, die sie verursacht hat.

Zhiyuan Chen und Aryya Gangopadhyay argumentieren, dass künstliche Intelligenz-Algorithmen verwendet werden können, um die Privatsphäre der Menschen zu verteidigen und einige der vielen Datenschutzbedenken zu konterkarieren, die durch andere Anwendungen von KI entstanden sind. Chen und Gangopadhyay erkennen an, dass viele der von KI angetriebenen Produkte, die wir aus Bequemlichkeit nutzen, nicht ohne den Zugriff auf große Mengen an Daten funktionieren würden, was auf den ersten Blick im Widerspruch zu den Bemühungen zur Bewahrung der Privatsphäre zu stehen scheint. Darüber hinaus werden, wenn KI in immer mehr Branchen und Anwendungen eingesetzt wird, mehr Daten gesammelt und in Datenbanken gespeichert, was die Datenbanken zu einem attraktiven Ziel für Angriffe macht. Chen und Gangopadhyay glauben jedoch, dass KI, wenn sie richtig eingesetzt wird, dazu beitragen kann, diese Probleme zu mildern.

Chen und Gangopadhyay erklären in ihrem Artikel, dass die Datenschutzrisiken im Zusammenhang mit KI aus mindestens zwei verschiedenen Quellen stammen. Die erste Quelle sind die großen Datensätze, die zur Ausbildung von neuronalen Netzen gesammelt werden, während die zweite Datenschutzbedrohung die Modelle selbst sind. Daten können möglicherweise aus diesen Modellen “auslaufen”, und das Verhalten der Modelle kann Details über die zur Ausbildung verwendeten Daten preisgeben.

Tiefe neuronale Netze bestehen aus mehreren Schichten von Neuronen, wobei jede Schicht mit den umliegenden Schichten verbunden ist. Die einzelnen Neuronen sowie die Verbindungen zwischen den Neuronen codieren für unterschiedliche Teile der Trainingsdaten. Das Modell kann sich als zu gut im Merken von Mustern der Trainingsdaten erweisen, auch wenn das Modell nicht überanpasst ist. Spuren der Trainingsdaten existieren innerhalb des Netzwerks, und bösartige Akteure können möglicherweise Aspekte der Trainingsdaten ermitteln, wie Forscher der Cornell University in einer ihrer Studien festgestellt haben. Die Forscher der Cornell University fanden heraus, dass Gesichtserkennungsalgorithmen von Angreifern ausgenutzt werden können, um zu enthüllen, welche Bilder und damit welche Personen zur Ausbildung des Gesichtserkennungsmodells verwendet wurden. Die Forscher der Cornell University entdeckten, dass ein Angreifer, auch wenn er keinen Zugriff auf das ursprüngliche Modell hat, das zur Ausbildung der Anwendung verwendet wurde, möglicherweise immer noch in der Lage ist, das Netzwerk zu scannen und zu bestimmen, ob eine bestimmte Person in den Trainingsdaten enthalten war, einfach indem er Modelle verwendet, die auf sehr ähnlichen Daten ausgebildet wurden.

Einige KI-Modelle werden derzeit verwendet, um gegen Datenlecks zu schützen und die Privatsphäre der Menschen zu gewährleisten. KI-Modelle werden häufig verwendet, um Hacking-Versuche zu erkennen, indem sie die Verhaltensmuster erkennen, die Hacker verwenden, um Sicherheitsmethoden zu durchdringen. Hacker ändern jedoch oft ihr Verhalten, um die mustererkennenden KI-Systeme zu täuschen.

Neue Methoden der KI-Ausbildung und -Entwicklung zielen darauf ab, KI-Modelle und -Anwendungen weniger anfällig für Hacking-Methoden und Sicherheits-Evasions-Taktiken zu machen. Adversarial-Learning versucht, KI-Modelle auf Simulationen von schädlichen oder bösartigen Eingaben auszubilden und sie so widerstandsfähiger gegen Ausnutzung zu machen, daher der Name “adversarial”. Laut Chen und Gangopadhyay haben ihre Forschungen Methoden entdeckt, um Schadsoftware zu bekämpfen, die darauf abzielt, private Informationen von Menschen zu stehlen. Die beiden Forscher erklärten, dass eine der Methoden, die sie als am effektivsten gegen Schadsoftware gefunden haben, die Einführung von Unsicherheit in das Modell ist. Das Ziel ist es, es bösartigen Akteuren zu erschweren, vorherzusagen, wie das Modell auf eine bestimmte Eingabe reagieren wird.

Andere Methoden, um KI zur Privatsphärenschutz zu nutzen, umfassen die Minimierung der Datenaussetzung, wenn das Modell erstellt und ausgebildet wird, sowie das Scannen, um die Verwundbarkeiten des Netzwerks zu entdecken. Wenn es um die Bewahrung der Datenprivatsphäre geht, kann federatives Lernen dazu beitragen, die Privatsphäre sensibler Daten zu schützen, da es ermöglicht, ein Modell auszubilden, ohne dass die Trainingsdaten jemals die lokalen Geräte verlassen, die die Daten enthalten, und so die Daten und viele der Modellparameter vor Spionage schützt.

Letztendlich argumentieren Chen und Gangopadhyay, dass die Verbreitung von KI zwar neue Bedrohungen für die Privatsphäre der Menschen geschaffen hat, KI jedoch auch dazu beitragen kann, die Privatsphäre zu schützen, wenn sie mit Sorgfalt und Bedacht eingesetzt wird.