Fake Shops, Real Solutions

Künstliche Intelligenz bietet Möglichkeiten, um Menschen zu unterstützen und ihre Arbeit effizienter zu gestalten. Das AIT entwickelte unter anderem ein Fake-Shop-Analysewerkzeug, um die Benutzung des Internets für Konsumenten sicherer zu machen. 

Fake Shop Security

Geht es nach Helmut Leopold und Ross King, zwei KI-Experten am AIT Austrian Institute of Technology, sollten wir uns vor künstlicher Intelligenz nicht fürchten, sondern sie als Möglichkeit ansehen, um Menschen zu unterstützen und ihre Arbeit effizienter zu gestalten. Als Anwendungsbeispiel wurde am AIT unter anderem ein Fake-Shop-Analysewerkzeug entwickelt, um die Benutzung des Internets für Konsumenten sicherer zu machen. 

Gefälschte Zahlungsaufforderungen, geknackte Passwörter und Erpresser-E-Mails oder Links, die zur Installation eines Computervirus führen: Cyber­kriminalität variiert zwar in seiner Form, führt jedoch immer zu Schäden – und nahm in den letzten Jahren rasant zu: Wurden im Jahr 2010 allein in Österreich noch 4.000 Fälle von Cyber­kriminalität gemeldet, waren es 2019 bereits 28.000. Die Coronapandemie be­feuerte dies noch einmal, womit im Jahr 2020 rund 36.000 gemeldete Fälle vorlagen, also ein Anstieg von 22 % im Vergleich zu Vorjahr. Ein wichtiger und bisher viel zu wenig beachteter Bereich ist laut Helmut Leopold und Ross King, KI-Experten am AIT Austrian Institute of Technology, der Betrug im Onlinehandel. Über betrügerische Webseiten („Fake-Shops“) bestellte Waren wer­den ent­weder niemals oder in gefälschter Form zugestellt. Für Experten ist es zwar möglich, solche Websites im Einzelfall zu erkennen, jedoch gibt es davon einfach zu viele: „Manche Fake-Shops bleiben nur 48 Stunden online, verursachen aber innerhalb dieser kurzen Zeit massiven wirtschaftlichen Schaden“, so Helmut Leopold, Leiter des Center for Digital Safety & Security am AIT.

Als größte außeruniversitäre Forschungseinrichtung Österreichs mit rund 1.400 Mitarbeitern versteht sich das AIT als Bindeglied zwischen Wissenschaft, Wirtschaft und Behörden. Vor allem für die Entwicklung und den Einsatz von KI braucht es diesen intensiven Dialog und eine Kooperation zwischen allen Bereichen. Durch die Kofinanzierung im österreichischen Sicherheitsforschungsförderprogramm „KIRAS“ des Bundesministeriums für Landwirtschaft, Regionen und Tourismus (BMLRT), welches die Kooperation zwischen Behörden, Industrie und Forschungseinrichtungen fördert, konnte eine besondere Initiative zur Sicherheit im elektro­nischen Handel gestartet werden. Als Paradebeispiel eines Projekts, das ebendiese Brücke schlägt, kann der von Ross King, dem Leiter der Forschungsgruppe Data Science & Artificial Intelligence am AIT, und seinem Team entwickelte Fake-Shop-Detector angesehen werden: Mittels künstlicher Intelligenz vergleicht das Tool den Programmiercode verdäch­tiger Webseiten mit bekannten Fake-Shops, um Gemeinsamkeiten im Code zu finden. Diese Vorgehensweise funktioniert deshalb, weil betrügerische Onlineshops oft ähnlich aufgebaut sind – so kopieren die Betreibenden beispielsweise einfach den Code und verwenden ihn bei der Erstellung weiterer Fake-Shops. Ist die Wahrscheinlichkeit, dass es sich bei einer besuchten Website um einen Fake-Shop handelt, gering, zeigt das Tool im Browser grünes Licht an – ist die Wahrscheinlichkeit hoch, ist das Signal rot. Dabei geht der Fake-Shop-Detector bis ins Detail und berück­sichtigt über 22.000 Faktoren, um eine Einschätzung durchzuführen. Von Juli 2020 bis Januar 2021 wurden so 17.500 Webseiten hinsichtlich vorhandener Risikomerkmale evaluiert; das Tool erreichte dabei bereits einen Durchschnitt von 90 % Übereinstimmung mit den Einschätzungen von Fachleuten, was Konsumenten bei ihrer Letzt­entscheidung, ob sie den Onlinekauf fortsetzen sollten oder nicht, best­möglich unterstützt. Das Tool wurde gemeinsam mit dem Österreichischen Institut für angewandte Telekommu­nikation (ÖIAT) und dem österreichischen KMU X-Net Services GmbH für Endkonsumenten entwickelt.

Ross King
... absolvierte an der Stanford University ein Doktoratsstudium in Physik und arbeitete ab 1994 an der Akademie der Wissenschaften und bei verschiedenen Start-ups; 2002 wechselte er zum AIT Austrian Institute of Technology. Seit knapp einem Jahr leitet King dort die Forschungsgruppe Data Science & Artificial Intelligence.

Helmut Leopold
...absolvierte ein Informatikstudium an der TU Wien und machte seinen Doktor an der Universität Lancaster in England. Er war 20 Jahre in der Telekommunikationsbranche tätig und ein wesentlicher Akteur beim Aufbau des Internets in Österreich. Seit 2009 ist er Leiter des Center for Digital Safety & Security am AIT Austrian Institute of Technology.

„Es funktioniert in den Browsern Firefox und Google Chrome und kann demnächst kostenlos über den Google Store als Browser-Plug-in installiert werden“, so AIT-Data-Scientist Andrew Lindley, der die dahinterstehenden Forschungsprojekte leitet. Und er ergänzt: „Ein weiterer erheblicher Mehrwert, der neben dem Echtzeitschutz für Konsumentinnen und Konsumenten entsteht, besteht in der unmittelbaren Stärkung regionaler, nationaler und europäischer Unter­nehmen im Onlinehandel.“ Die Weiter­entwicklung des Tools wird daher in den Forschungsprojekten MAL 2 (gefördert vom österreichischen Bundesministerium für Klimapolitik, Umwelt, Energie, Mobilität, Innovation und Technologie, BMK) im Rahmen des sechsten Calls des Forschungs­programms „IKT der Zukunft“ der Österreichischen Forschungs­förderungs­gesellschaft (FFG) sowie im Kiras-Projekt „SINBAD“ finanziell unterstützt.

Bereits bei der Definition von KI scheiden sich die Geister aber immer noch: „Man kann die Frage an sechs Expertinnen und Experten stellen und sechs verschiedene Antworten erhalten“, so King. Leo­pold differenziert: „Der Unterschied zwischen herkömmlichen Algorithmen und der künstlichen Intelligenz ist, dass Algorithmen sich so verhalten, wie es vom Entwicklerteam vorgegeben wird – alle Ergebnisse sind also nachvollziehbar. Bei der künstlichen Intelligenz, die auf neuronalen Netzen beruht, ist das nicht mehr der Fall.“ Genau aus diesem Grund braucht es neue Ansätze für das Testen und Verifizieren von KI-Systemen, bis hin zur Sicherstellung, dass KI-Systeme sich gemäß den definierten Anforderungen richtig verhalten und auch gesetzliche sowie ethische Regeln in der Technik einhalten. Dafür sind neue Forschungsschwerpunkte wie das Testen von KI wichtige Ansatzpunkte, mit denen sich das AIT beschäftigt. Laut Leopold sollte KI nicht verteufelt werden: „Wir brauchen eine substanzielle, faktengetriebene und zielorientierte Diskussion in der Ge­sellschaft zwischen allen Stake­holdern. Schlussendlich geht es um Werkzeuge, die wir einsetzen können, um unser Leben zu verbessern. Angst sollte man keine haben.“ King ergänzt: „Die Technologie ist immer neutral – die ethische Verantwortung liegt beim Menschen und darin, wo und wie er KI einsetzt.“

Letzte Aktualisierung: 6. Mai 2021

Für den Inhalt verantwortlich: AIT Austrian Institute of Technology GmbH