Verwendung der Smart Glasses von Meta mit KI und LLM zum Doxing von Fremden

Metas neueste Augmented Reality (AR)-Brille namens Orion hat in der vergangenen Woche zwar große Aufmerksamkeit erregt, doch ein von zwei Harvard-Studenten initiiertes Projekt entfacht die Diskussionen um Metas Ray-Ban Smart Glasses erneut.

Die Ray-Ban Meta Smart Glasses sind mit einer hochauflösenden (HD) Kamera und einem integrierten Lautsprecher ausgestattet, sodass Benutzer ein freihändiges digitales Erlebnis genießen können. Mit diesen Brillen können Benutzer nahtlos Anrufe tätigen, Musik hören und Fotos und Videos aufnehmen oder live streamen.

Eine von den Studenten AnhPhu Nguyen und Caine Ardayfio erstellte Demonstration zeigt, wie das Videomaterial der Brille in Kombination mit Gesichtserkennungstechnologie möglicherweise private Informationen von Fremden in der Öffentlichkeit preisgeben kann. Obwohl die zugrundeliegende Technologie seit Jahren verfügbar ist, weckt diese Demo ein Gefühl des Unbehagens, insbesondere weil viele Menschen nicht wussten, wie leicht diese Technologie für den Durchschnittsbürger zugänglich ist. Dies hat dazu geführt, dass zahlreiche Benutzer die Technologie als dystopisch brandmarkten, was die Art und Weise widerspiegelt, wie sich viele sie vorgestellt haben. Doch sie ist derzeit Realität.

Nguyen hat auf X (früher Twitter) ein Video gepostet, das die I-XRAY genannte Technologie in Aktion zeigt.

Sind wir bereit für eine Welt, in der unsere Daten auf einen Blick offengelegt werden? @CaineArdayfio und ich bieten hier eine Antwort, wie Sie sich schützen können: https://t.co/LhxModhDpk
pic.twitter.com/Oo35TxBNtD

— AnhPhu Nguyen (@AnhPhuNguyen1) 30. September 2024

Diese Technologie nutzt die Kamera der Brille, um Videos live auf ihren Instagram-Account zu streamen. Sie haben eine Computeranwendung programmiert, um den Stream zu überwachen und mithilfe von KI Gesichter zu erkennen.

Sobald ein Gesicht erkannt wurde, wird es von Gesichtserkennungsdiensten wie PimEyes verarbeitet, die das Bild mit öffentlich zugänglichen Fotos der Person im Internet abgleichen. Diese Bilder werden dann mithilfe großer Sprachmodelle (LLMs) analysiert, um Informationen wie den Namen, den Beruf und mehr der Person zu extrahieren. Diese Daten können dann mit öffentlich verfügbaren Datenbanken abgeglichen werden, um Telefonnummern und sogar Teile der Sozialversicherungsnummer zu ermitteln.

Wie bereits erwähnt, ist die in I-XRAY eingesetzte Technologie fast ausschließlich seit Jahren verfügbar und umfasst Kameras, Gesichtserkennungstools wie PimEyes und Datenbanken wie FastPeopleSearch und Cloaked.com.

Was die beunruhigende Natur dieser Demonstration noch verstärkt, ist die unauffällige und unmittelbare Art und Weise, wie sie funktioniert. Die im Video gezeigten Ray-Ban Meta Glasses 2 ähneln einer normalen Brille, und obwohl sie über eine Privatsphärenanzeige verfügen, die anzeigt, wenn die Videoaufzeichnung aktiv ist, kann es schwierig sein, sie in hell erleuchteten Außenumgebungen zu erkennen. Folglich könnte eine Person, die diese Brille trägt, Sie ohne Ihr Wissen aufzeichnen.

Darüber hinaus verstärkt die autonome Art der Informationsbeschaffung das Unbehagen. Die beteiligten LLMs können Details wie Namen und persönliche Informationen automatisch aus verschiedenen Online-Quellen aufdecken, ohne dass ein Mensch daran beteiligt ist. Das Video zeigt, wie diese Studenten eine Person auf der Straße doxen und dabei beiläufig die gesammelten Informationen nutzen, um Vertrautheit vorzutäuschen, als hätten sie sich bei einer Gemeinschaftsveranstaltung kennengelernt.

Die Hauptabsicht hinter diesem Projekt besteht darin, hervorzuheben, wie mühelos Fremde in der heutigen digitalen Landschaft auf persönliche Informationen zugreifen können. Das Studentenduo hat sich dafür entschieden, keinen Code öffentlich zu machen, hat aber Methoden geteilt, mit denen Einzelpersonen ihre Privatsphäre schützen können. Viele dieser Datenbanken bieten kostenlose Dienste zum Entfernen persönlicher Informationen an. Es bleibt jedoch eine mühsame Aufgabe, Ihre Online-Präsenz vollständig zu beseitigen. Mit diesen Maßnahmen können Sie versuchen, Ihre Informationen etwas weniger zugänglich zu machen.

Quelle