Die Anwendung von KI und Algorithmen durch Plattformen und Online-Dienste ermöglicht komplexe Datenanalysen und automatisierte Entscheidungsfindung. Diese Entwicklungen stellen Sicherheitsrisiken vor allem für vulnerable Konsument:innen dar, die von Problemen von Betrug, Manipulation, hin zu fehlender Transparenz und mangelnder Fairness reichen. Denn die Analyse von personenbezogenen Userdaten kann eingesetzt werden, um Prozesse manipulativ bzw. täuschend zu gestalten und Suchergebnisse zu personalisieren bspw. durch die gezielte Platzierung von verhaltensbasierten Werbeelementen.

Im Konsumentenschutz auf EU-Ebene werden diese datengesteuerten, algorithmischen Vorgänge rund um Entscheidungsfindung, Ranking und Prozessgestaltung derzeit verstärkt mit dem Fokus auf Dark Patterns und verhaltensbasierter Werbung problematisiert. Es besteht ein wachsender Bedarf an Methoden und Tools, die im Bereich der Rechtsdurchsetzung zur Detektion und Dokumentation von Verstößen in diesem Sinne eingesetzt werden können.

Die FuE Dienstleistung „Platform Compliance Study“ ist eine umfassende Analyse von unlauteren Geschäftspraktiken auf den für die österreichischen Konsument:innen relevanten Plattformen und Online-Diensten. Das vorliegende Projekt, PCS, legt den Fokus auf eine Analyse von unlauteren Geschäftspraktiken im Sinne von Dark Patterns und verhaltensbasierter Werbung mit einem Konsortium von Expert:innen des Konsumentenschutzes, KI-Forscher:innen und dem BMSGPK.

Das Projekt umfasst: (1) Eine Erhebung und Messung von Verstößen im Sinne unlauterer Geschäftspraktiken mit Fokus auf Dark Patterns und verhaltensbasierter Werbung auf für österreichische Konsument:innen relevanten Plattformen und Online-Diensten. (2) Eine Evaluation von vorhandenen Tools und Methoden für die Dokumentation und Beweissicherung durch Verbraucherbehörden und -organisationen. (3) Eine Machbarkeits-Studie eines Tools für die Detektion und die Dokumentation von Dark Patterns und verhaltensbasierter Werbung.

PCS wird finanziert im Sicherheitsforschungs-Förderprogramm KIRAS des Bundesministeriums für Finanzen.