Die menschliche KI-Mischung von Facebook für Audiotranskriptionen wird jetzt in Europa einer Datenschutzprüfung unterzogen – TechCrunch


Facebooks Der führende Datenschutzbeauftragte in Europa bittet das Unternehmen nun um detaillierte Informationen zur Verwendung einer Voice-to-Text-Funktion im Messenger von Facebook App und wie es mit dem EU-Recht übereinstimmt.

Gestern berichtete Bloomberg, dass Facebook menschliche Auftragnehmer einsetzt, um die Audiobotschaften der App-Benutzer zu übertragen. In der Datenschutzrichtlinie wird jedoch nicht klar erwähnt, dass tatsächliche Personen Ihre Aufzeichnungen anhören könnten.

Eine Seite in der Facebook-Hilfe enthält auch einen Hinweis mit der Aufschrift "Voice to Text verwendet maschinelles Lernen". Die Funktion wird jedoch nicht von Personen unterstützt, die für Facebook arbeiten und mithören.

Ein Sprecher der irischen Datenschutzkommission erklärte: „Aufgrund unseres anhaltenden Engagements bei Google Im Zusammenhang mit der Verarbeitung personenbezogener Daten durch Apple und Microsoft im Zusammenhang mit der manuellen Transkription von Audioaufzeichnungen suchen wir nun detaillierte Informationen von Facebook zu der betreffenden Verarbeitung und zu der Frage, inwieweit Facebook der Ansicht ist, dass diese Verarbeitung den GDPR-Verpflichtungen entspricht . "

Bloombergs Bericht folgt ähnlichen Enthüllungen über KI-Assistententechnologien, die von anderen Technologiegiganten wie Apple, Amazon, Google und Microsoft angeboten wurden und die in den letzten Wochen auch die Aufmerksamkeit der europäischen Datenschutzbehörden auf sich gezogen haben.

Dies sagt uns, dass der Hype um AI-Sprachassistenten ist immer noch Beschönigung eines weitaus weniger High-Tech-Backends. Sogar als das maschinelle Lernen angewendet wurde, um die "Mechanical Turk" -Komponenten (d. H. Menschen) zu verschleiern, die erforderlich sind, damit die Technik den Ansprüchen gerecht wird.

Dies ist in der Tat eine sehr alte Geschichte. Nämlich: Ein volles Dekade Vor einigen Jahren berichtete ein britisches Startup namens Spinvox, das angeblich über eine fortschrittliche Spracherkennungstechnologie für die Umwandlung von Voicemails in Textnachrichten verfügt, dass es sich sehr stark auf Callcenter in Südafrika und auf den Philippinen stützt.

Nach dem Bericht von Bloomberg, in dem Facebook erklärte, er habe die Transkription von Menschen Anfang dieses Monats ausgesetzt und sei Apple beigetreten und Google stoppen manuelle Überprüfungen von Audio-Snippets für ihre jeweiligen Sprach-AIs. (Amazonas hat seitdem ein Opt-Out zu den Einstellungen der Alexa-App hinzugefügt.)

Wir haben Facebook gefragt, wo in der Messenger-App Benutzer darüber informiert wurden, dass menschliche Auftragnehmer verwendet werden könnten, um ihre Sprach-Chats / Audio-Nachrichten zu transkribieren. und wie die Zustimmung der Messenger-Benutzer zu dieser Form der Datenverarbeitung eingeholt wurde, bevor menschliche Überprüfungen ausgesetzt wurden.

Das Unternehmen hat auf unsere Fragen nicht geantwortet. Stattdessen gab uns ein Sprecher die folgende Erklärung:Ähnlich wie bei Apple und Google haben wir vor mehr als einer Woche die Überprüfung von Audiodaten durch die Menschen unterbrochen. “

Facebook beschrieb auch die Audio-Schnipsel, die es an Vertragspartner gesendet hatte, als maskiert und nicht identifiziert. sagten, dass sie nur gesammelt wurden, wenn Benutzer sich für die Transkription in Messenger entschieden hatten; und wurden nur zur Verbesserung der Transkriptionsleistung der KI verwendet.

Es wiederholte auch eine seit langem bestehende Zurückweisung des Unternehmens zu Bedenken der Nutzer hinsichtlich des allgemeinen Abhörens von Facebook und sagte, dass das Unternehmen niemals ohne Erlaubnis des Geräts oder ohne ausdrückliche Aktivierung durch die Nutzer auf die Mikrofone der Nutzer hört.

Eine zentrale Frage ist jedoch, wie Facebook die Erlaubnis zur Datenverarbeitung erhält.

Das Unternehmen hat zum Beispiel kürzlich einen manipulativen Zustimmungsfluss verwendet, um Benutzer in Europa dazu zu bewegen, die Gesichtserkennungstechnologie einzuschalten. Dabei wurde die bisherige Haltung zurückgesetzt, die als Reaktion auf frühere behördliche Eingriffe zum Abschalten der Technologie im gesamten Block angenommen worden war.

Es hängt also sehr davon ab, wie genau Facebook die Datenverarbeitung zu einem Zeitpunkt beschrieben hat, an dem die Nutzer aufgefordert werden, der Überprüfung ihrer Sprachnachrichten durch den Menschen zuzustimmen (vorausgesetzt, es stützt sich auf die Einwilligung als Rechtsgrundlage für die Verarbeitung dieser Daten).

Eine Bündelung der Einwilligung in allgemeine Geschäftsbedingungen für die Nutzung des Produkts ist auch nach dem EU-Datenschutzrecht unwahrscheinlich, da die allgemeine Datenschutzverordnung des Blocks eine Einwilligung erfordert, die zweckgebunden, vollständig informiert und frei gegeben ist.

Wenn Facebook sich auf berechtigte Interessen stützt, um die Audio-Snippets der Messenger-Benutzer zu verarbeiten, um die Leistung seiner KI zu verbessern, müsste es seine eigenen Interessen gegen jedes Risiko für die Privatsphäre der Menschen abwägen.

Sprach-AIs sind in dieser Hinsicht besonders problematisch, da Audioaufnahmen möglicherweise auch die persönlichen Daten von Nichtbenutzern erfassen, wenn sich Personen in der Nähe eines Geräts befinden (oder tatsächlich eine Person am anderen Ende der Telefonleitung, die Ihnen eine Nachricht hinterlässt). könnten ihre persönlichen Daten erfassen lassen, ohne jemals die Möglichkeit gehabt zu haben, Facebook-Vertragspartnern zuzustimmen, diese zu hören.

Durch Weitergabe von Google Assistant-Snippets an die belgische Presse wurde kürzlich sowohl die Sensibilität von Aufzeichnungen als auch das Risiko einer erneuten Identifizierung durch solche Aufzeichnungen hervorgehoben. Journalisten konnten einige der Personen in den Aufzeichnungen identifizieren.

Mehrere Presseberichte haben auch darauf hingewiesen, dass Auftragnehmer, die von Technologiegiganten beschäftigt werden, routinemäßig vertrauliche Details abhören, die über eine Reihe von Produkten erfasst werden. Dazu gehört die Möglichkeit, Audio aufzuzeichnen und diese persönlichen Daten zur Verarbeitung in die Cloud zu streamen.