HTCinside


Microsoft kündigt Video Authenticator zur Identifizierung von Deepfakes an

Um der Verbreitung von entgegenzuwirkentiefe Fälschungenhat Microsoft ein neues Video-Authentifizierungstool veröffentlicht, mit dem ein Standbild oder Video analysiert werden kann, um eine prozentuale Wahrscheinlichkeit zu ermitteln, dass ein Medium künstlich manipuliert wurde.

Im Falle eines Videos gab Microsoft an, dass dieser Prozentsatz in Echtzeit für jeden Frame bereitgestellt werden könnte, während das Video abgespielt wird. Erkennt die Übergangslinie von tiefen, subtilen Graustufen oder verblassenden Elementen, die für das menschliche Auge möglicherweise nicht sichtbar sind.

Deepfakes oder synthetische Medien können Fotos, Videos oder Audiodateien sein, die von künstlicher Intelligenz (KI) manipuliert werden. Laut Microsoft ist die Erkennung von tiefgreifenden Fälschungen bei den bevorstehenden US-Wahlen von entscheidender Bedeutung.

Die Technologie wurde mithilfe eines öffentlichen Datensatzes von Face Forensic ++ erstellt. Microsoft sagte, es sei mit dem DeepFake Detection Challenge-Datensatz getestet worden, von dem angenommen wird, dass er das führende Modell ist. um eingehende Fälschungserkennungstechnologien zu trainieren und zu testen.

„Wir gehen davon aus, dass die Methoden zur Generierung synthetischer Medien weiter an Komplexität zunehmen werden. Da alle KI-Erkennungsmethoden Fehlerraten haben, müssen wir tief sitzende Fälschungen, die Erkennungsmethoden durchlaufen, verstehen und darauf vorbereitet sein, darauf zu reagieren.“ Das Unternehmen sagte in einem Blogbeitrag.

„Langfristig müssen wir daher nach stärkeren Wegen suchen, um die Authentizität von Nachrichtenartikeln und anderen Medien zu wahren und zu zertifizieren.“

Mit einigen verfügbaren Tools hat Microsoft auch eine neue Technologie eingeführt, die manipulierte Inhalte erkennen und sicherstellen kann, dass die Medien, die Sie ansehen, echt sind.

Die Technologie besteht aus zwei Komponenten. Das erste ist ein in Microsoft Azure integriertes Tool, das es einem Inhaltsproduzenten ermöglicht, digitale Hashes und Zertifikate zu Inhalten hinzuzufügen.

„Hashes und Zertifikate leben mit Inhalten als Metadaten, wo immer sie online sind“, sagte Microsoft.

Der zweite ist ein Lesegerät, das in eine Browsererweiterung integriert werden kann, die Zertifikate überprüft und Hashes mit Übereinstimmungen vergleicht, um die Authentizität zu bestimmen.

Microsoft hat sich auch mit der AI Foundation in ihrem tiefen Scheinkampf zusammengetan. Im Rahmen der Partnerschaft werden beide Parteien über die Reality Defender 2020-Initiative der Stiftung Videoauthentifikatoren für Organisationen bereitstellen, die am demokratischen Prozess beteiligt sind, darunter Nachrichtenorganisationen und politische Kampagnen.

Der Video Authenticator wird zunächst nur über die Initiative verfügbar sein.

Eine weitere Partnerschaft mit einem Konsortium von Medienunternehmen, bekannt als Project Origin, testet die Authentizitätstechnologie von Microsoft. Eine Initiative mehrerer Verlage und Social-Media-Unternehmen, die Trusted News Initiative, erklärte sich ebenfalls bereit, mit Microsoft zusammenzuarbeiten, um ihre Technologie zu testen.

Die University of Washington, In-House Counterfeit Detection Sensitivity und USA Today haben sich ebenfalls mit Microsoft zusammengetan, um die Medienkompetenz zu verbessern.

„Durch die Verbesserung der Medienkompetenz können Menschen Fehlinformationen auf der Grundlage realer Ereignisse eliminieren und die Risiken von billigen und tiefen Fälschungen bewältigen“, sagte Microsoft. „Die Medien zu kennen kann es uns allen ermöglichen, kritisch über den Medienkontext nachzudenken und engagiertere Bürger zu werden, während wir uns an Satire und Parodie erfreuen.“

Als Teil dieser Partnerschaft wird es eine öffentlich-rechtliche Ankündigungskampagne geben, die Menschen dazu einlädt, „innezuhalten und nachzudenken“ und zu überprüfen, ob die Informationen von einer seriösen Nachrichtenorganisation stammen, bevor sie geteilt oder beworben werden. in den sozialen Medien vor den Wahlen.

Die Parteien starteten auch einen Fragebogen für amerikanische Wähler, um mehr über synthetische Medien zu erfahren.