Home
>
Archiv
>
Podcast
>
Tagesdosis 23.1.2020 – Clearview AI. George Orwell würde herzhaft lachen (Podcast)

Tagesdosis 23.1.2020 – Clearview AI. George Orwell würde herzhaft lachen (Podcast)

Veröffentlicht am: 23. Januar 2020 | Anzahl Kommentare: noch keine

Seeing is IDʼing

Ein Kommentar von Bernhard Loyen.

Am 18. Januar veröﬀentlichte die New York Times einen Artikel, der die letzten Tage für einige Aufmerksamkeit sorgte (1). Der Beitrag handelt von einem Start-Up, welches einen regen Handel mit dem betreiben möchte, was Milliarden Menschen in ihrer Freizeit unbekümmert oﬀerieren. Daten, in diesem Falle Bilder, Porträtfotos. Diese leicht zu bestückende Schatztruhe, heutzutage Festplatte, wird nun in Zusammenhang mit der entsprechend dazu entwickelten App dem Markt feilgeboten. Diesmal handelt es sich jedoch nicht um Blödsinns-Trallala a la Snapchat oder TikTok, es geht etwaig um das Ende der Fröhlichkeit.

Immer wieder – Daten sind das neue Öl. Einnahmequellen für ﬁndige, technisch versierte Bürger. Das Unternehmen Clearview AI aus den USA sammelte laut dem Artikel in den letzten Jahren an die drei Milliarden öﬀentlich zugängliche Bilddateien. Das bedeutet, es liegt zumindest dahingehend keinerlei krimineller Ansatz vor, die Bilder unrechtmäßig, durch illegalen Zutritt zu Nutzerkonten, erworben zu haben.

Nein, es waren solche Bilder, die täglich völlig unbedacht, etwaig mit dezentem Restbewußtsein auf den bekannten Social-Media-Plattformen der dahingehend interessierten Menschheit oﬀeriert werden. Die Firma Clearview AI entwickelte ergänzend eine Gesichtserkennungstechnologie, die wie folgt funktioniert.

Eine Firma, Institution oder Behörde macht ein Foto von einer Person oder nutzt das Standbild einer Überwachungskamera, lädt es zur App hoch und bekommt umgehend öﬀentliche Fotos dieser Person zusammen mit den passenden Links zu den Orten, an denen diese Fotos erschienen sind zu sehen. So ﬁndig, so fragwürdig. Nun wird es diese App nicht in bekannten Stores zum Download geben.

Nein, der Erﬁnder Mr. Ton-That, ein australischer Techniker lebend in den USA, soll sein Produkt bevorzugt Strafverfolgungsbehörden angeboten haben. Und es ist nicht nur die Strafverfolgung. Clearview AI hat seine App auch an mindestens einer Handvoll Unternehmen für Sicherheitszwecke lizenziert. Diese Tatsache befeuert die aktuelle Diskussion, hinsichtlich der Frage – darf er das, also seine Datensammlung in Verbindung seiner „innovativen“ Idee einem entsprechenden Markt veräußern?

Laut dem Artikel verweigert das Unternehmen bisher eine Liste zu veröﬀentlichen, welche Institutionen sein Produkt schon erworben haben, also damit arbeiten. Ein Eric Goldman, Co-Direktor des High Tech Law Institute an der Universität Santa Clara wird wie folgt zitiert:

“Die Möglichkeiten der Bewaﬀnung sind endlos“(…)“Stellen Sie sich einen abtrünnigen Gesetzeshüter vor, der potentielle romantische Partner verfolgen will, oder eine ausländische Regierung, die dies dazu benutzt, Geheimnisse über Menschen auszugraben, um sie zu erpressen oder ins Gefängnis zu werfen (1).

Die Diskussionen über ausufernde, also bedenkliche Entwicklungen dieser Branche sind nicht neu. Schon 2011 äußerte sich der damalige CEO von Google Eric Schmidt ausgesprochen kritisch, Zitat: Schmidt sagte auch, dass Google eine Gesichtserkennungstechnologie entwickelt hätte, aber beschlossen habe, diese nicht weiter zu verfolgen: “Wir haben diese Technologie gebaut und sie zurückgehalten…nachdem wir sie angeschaut haben, haben wir beschlossen, sie nicht weiter zu verfolgen. Er erklärte, dass er persönlich sehr besorgt über die Vereinigung von mobiler Verfolgung und Gesichtserkennung sei, da er befürchte, dass sie “auf eine sehr schlechte Art und Weise genutzt werden könnte“ (2).

Seeing Is IDʼing lautet eine sehr aufschlussreiche Studie des Center for Technology and Democracy aus dem Jahre 2012 (3). Damalige Erläuterungen, Zitat:

Facebook, als einer von vielen Anbietern, verfolgte einen etwas anderen Ansatz. Die Gesichtserkennungsfunktion von Facebook ist standardmäßig auch für die Benutzer des sozialen Netzwerks aktiviert. Wenn ein FacebookBenutzer mit aktivierter Gesichtserkennungsfunktion ein Foto auf Facebook hochlädt, sucht Facebook automatisch Gesichter auf dem Foto, die denen des Userʼs Facebook-Freunden ähneln, und schlägt dem Benutzer vor, das Foto mit dem Tag friendsʼnames zu versehen. Laut Facebook werden auf Gesichtserkennung basierende Tags nur für Freunde vorgeschlagen, mit denen der Benutzer am häuﬁgsten kommuniziert.

Das Resümee lautete 2012 so, Zitat: Die mit der Gesichtserkennung verbundenen Datenschutzprobleme werden durch die breite Verfügbarkeit dieser leistungsfähigen Technologien noch verschärft. Die Gesichtserkennung wird nicht mehr nur von Einrichtungen mit beträchtlichen technischen und ﬁnanziellen Ressourcen, wie z.B. Regierungsbehörden oder Unternehmen, verwendet; die ausgeklügelte Fähigkeit, einzigartige Gesichtsmerkmale zu erkennen, hält Einzug in tragbare Verbrauchsgeräte und freie Softwarepakete und öﬀnet die Tür zu vielen Millionen von Nutzern. Bei einer so breiten Nutzerbasis und einer großen Vielfalt von Anwendungen wird die Gesichtserkennungstechnologie missbraucht werden (3).

Acht Jahre später überrascht das mediale Erstaunen, dass die Technik weiter voran geschritten ist und Personen, bzw. Unternehmen Geld darüber verdienen möchten. Notwendigerweise müssen zuerst meist Financiers gefunden werden. Wer investiert hat Bekannterweise meist eigene Interessen an der technischen Weiterentwicklung eines Start-Ups. Bei Clearview AI (4) ﬁndet sich der US-Milliardär und Paypal-Mitgründer Peter Thiel, der nicht überraschend auch bei Facebook Investor ist. Interessant wird es bei der Tatsache, dass Mr. Thiel noch eine Firma mitbegründet hat – Palantir.

Palantir Technologies, Inc. ist ein privat geführter US-Amerikanischer Anbieter von Software und Dienstleistungen, der sich auf die Analyse großer Datenmengen spezialisiert. Diese Fähigkeiten erkannte vor allem die Nachrichtendienstgemeinschaft der Vereinigten Staaten (USIC), spezialisiert auf Anti-Terror-Analysen für das US-Verteidigungsministerium. Der Kreis schließt sich.

Da sich die Bundespolitik in letzter Zeit nicht mehr auf Made In Germany verlassen möchte, werden benötigte Fachleute und Programme gerne teuer importiert. So zum Beispiel das Palantir Gotham Programm für das hessische Innenministerium. Deutscher Vorreiter, also Türöﬀner in diesem Milliarden-Segment. Damit das aber nicht gleich bemerkt und negativ kommuniziert wird, benennt man das Produkt eben um. Aus Palantir Gotham wird Hessen-Data.

Die theoretische Terrorgefahr, sowie die Szenarien jüngster Zeit, die vermeintlich nicht verhindert werden konnten, brauchen technische Lösungsmodelle. Dies wusste schon 2017 der damalige Innenminister De Maziere, CDU, Zitat:

Der starke Staat muss mit den technischen Entwicklungen und Nutzungen Privater Schritt halten, sie aber auch für seine Arbeit nutzen können. Dies gilt auch für den bislang rechtlich stark limitierten Einsatz der DNA-Analyse. Die biometrische Auswertung etwa durch Gesichtserkennung muss entschieden vorangebracht werden. Eine Fahndung mit Gesichtserkennung, etwa nach einem ﬂüchtigen Terroristen, ist ein wichtiges Instrument (5).

Der CDU Kollege Bouﬃer, Ministerpräsident Hessens, nahm sich dieser Idee an und orderte im April 2018 bei der deutschen Tochter namens Palantir Technologies GmbH mit Sitz in Wiesbaden Palantir Gotham aka Hessen Data (6)(12).

Zitat: Datenschrott für eine Milliarde? Durch heimlichen und oﬀenen Boykott sowie durch Einsatz „trojanischer Zähler“ wollen Hunderte von Initiativgruppen, unterstützt von den GRÜNEN, die für Mai geplante Volkszählung unterlaufen (7). Oh, Pardon. Das war das falsche Zitat. Es ist aus dem Jahre 1987, als die alte BRD damals versuchte die sog. Volkszählung durchführen zu lassen. Wer ist doch gleich der aktuelle Regierungspartner der CDU in Hessen? Richtig, DIE GRÜNEN. Das aber nur nebenbei.

Die ﬁnale Installation erfolgte über den CDU Innenminister Peter Beuth. Der Big-Brother-Award 2019 ging daher nicht überraschend nach Hessen. Die Begründung, Zitat:

Der hessische Innenminister Peter Beuth (CDU) hat die NegativAuszeichnung „Big-Brother-Award“ erhalten. Er wurde ihm für die Anschaﬀung von Analyse-Software der amerikanischen Firma Palantir, die dem Geheimdienst CIA nahestehen soll, verliehen. Der Innenminister habe diese hoch umstrittene Überwachungsﬁrma damit beauftragt, ihre Polizeidatenbanken mit Social Media-Daten und anderen externen Daten zu verknüpfen und zu analysieren(…) Die Software der Firma, die diverse Arten von Daten miteinander verknüpfen kann, soll unter anderem bei amerikanischen Geheimdiensten wie CIA und NSA sowie der Bundespolizei FBI im Einsatz sein (8).

Mögen wir nur mutmaßen, welche Daten bei einem wichtigen Update aus den USA kommend, nach Abschluss aus Deutschland vorsichtshalber gleich mit gesichert werden. Es bleibt ja auf dem gleichen Server. Daher – Keine Panik auf der Titanic, wusste schon Udo Lindenberg 1972 (9).

Rückblick: Im Mai 2016 informierte die Zeitung Die Welt, Zitat: Aus dem Umfeld der Deutschen Telekom ist zu erfahren, dass sich CEO Tim Höttges kürzlich mit dem Palantir-Management getroﬀen hat. Details will die Telekom aber nicht nennen (10). Im Dezember 2016 ﬁnden sich die Ergebnisse des Meetings in einem Interview mit einem Start-Up Magazin, Zitat: Im Interview mit Berlin Valley spricht Telekom-Chef Tim Höttges über Innovation im Konzern, Reisen ins Silicon Valley und die blaue Welt. Höttges: Für mich ist aber am interessantesten, dass wir im Unternehmen immer mehr künstliche Intelligenz einsetzen, etwa bei der Optimierung unserer Netzes. Oder im Callcenter, hier arbeiten wir mit Eliza, einem Bot, der standardisierte Prozesse sprachbasiert aufbaut und bei dem man gar nicht mehr merkt, dass man mit einer Maschine spricht. Ein sehr spannendes Big-Data-Projekt ist Palantir, bei dem wir versuchen, den gesamten Planungs- und FinanzBudgetierungsprozess dank künstlicher Intelligenz in Zukunft besser vorherzusehen (11).

Ja, spannende Zeiten in denen wir da leben. Zusammenfassend. Ein Unternehmen aus den USA sorgt aktuell für Aufregung und Irritationen, bezüglich der Zukunft von Gesichtserkennungstechnologien. Die US-Geldgeber dieses Start-Ups besitzen wiederum Firmen, die jüngst Teile des deutschen Sicherheitsapparates mit Programmen der Datenabschöpfung von Bürgern versorgt. Höchstwahrscheinlich mit der freundlichen Lizenz der Datensicherung entsprechender Ergebnisse. Europas größtes Telekommunikationsunternehmen, mit Sitz in Deutschland beﬁndet Technologien dieser Art als „spannend“ .

Spannend ist es auch das Palantir-Dossier auf Police-IT zu studieren. Es ist in der Schriftartikel-Version verlinkt (12). Wer bei diesen Informationen übrigens umgehend das Wort China vor dem geistigen Auge hat, sollte mal zur Abwechslung zwei Wörter ergoogeln. Frankreich und Alicem (13).

Das Alles wäre aber nicht nötig zu diskutieren, wären nicht Milliarden von Bürgern weltweit bereit entsprechende Daten zur Verarbeitung kostenlos und freiwillig zur Verfügung zu stellen. Falsch oder unrichtig?

Der Kriminologe Tobias Singelnstein schreibt im Grundrechte-Report 2019, Zitat: Daten sind allgegenwärtig, praktisch kein Bereich unseres digitalisierten Lebens kommt ohne sie aus. Sie bilden eine permanente Spur, die unsere Persönlichkeit widerspiegelt. Für Staat und Behörden erwächst hieraus ein Schatz zuvor ungeahnter Möglichkeiten(…) Aus Sicht der Grundrechte steht »Hessen-Data« im Konﬂikt mit dem Recht auf informationelle Selbstbestimmung als Bestandteil des Allgemeinen Persönlichkeitsrechts aus Artikel 2 Absatz 1 in Verbindung mit Artikel 1 Absatz 1 des Grundgesetzes. Im Besonderen stellen Massendatenauswertungen, wie sie mit »Hessen-Data« möglich sind, den im Datenschutzrecht zentralen Zweckbindungsgrundsatz in Frage.(14)

Am 21. Januar jährte sich zum 70. Mal der Todestag von George Orwell. Würde er die dargestellten Fakten staunend zur Kenntnis nehmen oder einfach herzhaft lachen? Am 08. Juni 1949 wurde seine Roman 1984 veröﬀentlicht. Noch sind es nur die Andeutungen von Parallelen. Die Abstände der Veränderungen von beeindruckender Fiktion zu besorgniserregender Realität verkürzen sich jedoch mit jedem Jahrzehnt. Recherchierend zum heutigen Text, fand ich folgende Zeilen (15), Zitat: Der Kauf von Geräten, die uns aus Bequemlichkeit oder Sicherheitsgefühl ständig überwachen, verfolgen und aufzeichnen, legt den Grundstein für eine bedrückende Zukunft. So schlicht, so wahr.

Es gibt die Seite Surveillance under Surveillance. Überwachung unter Aufsicht. Findige Bürger füttern diese Seite, die nur eine Tatsache darstellt. Überwachung der Bürger. Die Seite gibt die Möglichkeit zu erfahren, wieviele Kameras in ihrer Stadt, in ihrer Nachbarschaft inzwischen völlig selbstverständlich an Gebäuden, privat wie institutionell angebracht sind (16) und damit die Bewegung der Bürger dokumentierten. Berlin liegt inzwischen auf Platz 19 der meist überwachten Städte der Welt. 39.765 Kameras für 3,7 Millionen Bewohner – Stand Juli 2019 (17).

Man könnte endlos weitere Beispiele benennen, wie sich diese Gesellschaft immer weiter in Orwellsche Dimensionen schraubt. Gibt es Hoﬀnung? Jein. Die Tage wurden Auszüge des sog. Weißbuches geleakt, welches Ende Februar seitens der EU vorgestellt werden soll, Zitat: Das durchgesickerte Weißbuch der Kommission enthält die Idee eines Zeitraums von drei bis fünf Jahren, in dem der Einsatz von Gesichtserkennungstechnologie an öﬀentlichen Orten verboten werden könnte – um den EU-Gesetzgebern Zeit zu geben, Wege zu ﬁnden, um Risiken im Zusammenhang mit dem Einsatz der Technologie zu bewerten und zu bewältigen, wie z.B. die Rechte der Menschen auf Privatsphäre oder das Risiko diskriminierender Auswirkungen von verzerrten Algorithmen (18).

Klingt erstmal bemüht, jedoch Zitat: “Dies würde die Rechte des Einzelnen schützen, insbesondere gegen jeglichen möglichen Missbrauch der Technologie”, schreibt die Kommission und fügt hinzu, dass: “Es wäre notwendig, einige Ausnahmen vorzusehen, insbesondere für Aktivitäten im Zusammenhang mit Forschung und Entwicklung und für Sicherheitszwecke“ (18).

Beinhaltet die Formulierung der Ausnahmen für Sicherheitszwecke, die existierenden oder jene die der Bürger noch zu erwarten hat? Haben wir, die Menschen, irgendetwas dazugelernt in den letzten Jahrhunderten?

Was ist Aufklärung?

„Aufklärung ist der Ausgang des Menschen aus seiner selbstverschuldeten Unmündigkeit. Unmündigkeit ist das Unvermögen, sich seines Verstandes ohne Leitung eines anderen zu bedienen. Selbstverschuldet ist diese Unmündigkeit, wenn die Ursache derselben nicht am Mangel des Verstandes, sondern der Entschließung und des Mutes liegt, sich seiner ohne Leitung eines anderen zu bedienen. Sapere aude! Habe Mut, dich deines eigenen Verstandes zu bedienen! ist also der Wahlspruch der Aufklärung(…)

Faulheit und Feigheit sind die Ursachen, warum ein so großer Teil der Menschen, nachdem sie die Natur längst von fremder Leitung freigesprochen, dennoch gerne zeitlebens unmündig bleiben; und warum es anderen so leicht wird, sich zu deren Vormündern aufzuwerfen. Es ist so bequem, unmündig zu sein.

Immanuel Kant, Beantwortung der Frage: Was ist Aufklärung? in: Berlinische Monatsschrift, Dezember 1784 (19)

Quellen: