Incorporating usable privacy into connected devices: a user‐centered perspective

Abstract

Due to the popularity of the Internet and the networked services that it facilitates, networked devices have become increasingly common in both the workplace and everyday life in recent years—following the trail blazed by smartphones. The data provided by these devices allow for the creation of rich user profiles. As a result, the collection, processing and exchange of such personal data have become drivers of economic growth. History shows that the adoption of new technologies is likely to influence both individual and societal concepts of privacy. Research into privacy has therefore been confronted with continuously changing concepts due to technological progress. From a legal perspective, privacy laws that reflect social values are sought. Privacy enhancing technologies are developed or adapted to take account of technological development. Organizations must also identify protective measures that are effective in terms of scalability and automation. Similarly, research is being conducted from the perspective of Human-Computer Interaction (HCI) to explore design spaces that empower individuals to manage their protection needs with regard to novel data, which they may perceive as sensitive. Taking such an HCI perspective with regard to understanding privacy management on the Internet of Things (IoT), this research mainly focuses on three interrelated goals across the fields of application: 1. Exploring and analyzing how people make sense of data, especially when managing privacy and data disclosure; 2. Identifying, framing and evaluating potential resources for designing sense-making processes; and 3. Exploring the fitness of the identified concepts for inclusion in legal and technical perspectives on supporting decisions regarding privacy on the IoT. Although this work's point of departure is the HCI perspective, it emphasizes the importance of the interrelationships among seemingly independent perspectives. Their interdependence is therefore also emphasized and taken into account by subscribing to a user-centered design process throughout this study. More specifically, this thesis adopts a design case study approach. This approach makes it possible to conduct full user-centered design lifecycles in a concrete application case with participants in the context of everyday life. Based on this approach, it was possible to investigate several domains of the IoT that are currently relevant, namely smart metering, smartphones, smart homes and connected cars. The results show that the participants were less concerned about (raw) data than about the information that could potentially be derived from it. Against the background of the constant collection of highly technical and abstract data, the content of which only becomes visible through the application of complex algorithms, this study indicates that people should learn to explore and understand these data flexibly, and provides insights in how to design for supporting this aim. From the point of view of design for usable privacy protection measures, the information that is provided to users about data disclosure should be focused on the consequences thereof for users' environments and life. A related concept from law is “informed consent,” which I propose should be further developed in order to implement usable mechanisms for individual privacy protection in the era of the IoT. Finally, this thesis demonstrates how research on HCI can be methodologically embedded in a regulative process that will inform both the development of technology and the drafting of legislation.

Aufgrund der Popularität des Internets und der dadurch ermöglichten vernetzten Dienste sind in den letzten Jahren vernetzte Geräte sowohl am Arbeitsplatz als auch im Alltag immer häufiger anzutreffen – und erinnern damit an den Siegeszug des Smartphones. Die von diesen Geräten gelieferten Daten ermöglichen die Erstellung umfassender Benutzerprofile. Als Folge sind Erfassung, Verarbeitung und der Austausch solch persönlicher Daten zu einem Motor des Wirtschaftswachstums geworden. Die Geschichte zeigt, dass die Einführung neuer Technologien häufig sowohl die individuellen als auch die gesellschaftlichen Konzepte von Privatsphäre beeinflusst. Forschung im Bereich der Privatsphäre ist daher aufgrund des technologischen Fortschritts mit sich ständig ändernden Konzepten konfrontiert. Aus rechtlicher Sicht werden Datenschutzgesetze angestrebt, die gesellschaftliche Werte widerspiegeln. Technologien zum Schutz der Privatsphäre werden weiterentwickelt oder angepasst, um der fortschreitenden technologischen Entwicklung Rechnung zu tragen. Organisationen müssen auch schützende Maßnahmen identifizieren, die im Hinblick auf Skalierbarkeit und Automatisierung wirksam sind. In ähnlicher Weise zielt Forschung aus der Perspektive der Mensch-Computer-Interaktion (HCI) darauf ab, Gestaltungsräume zu erforschen die Individuen in die Lage versetzen, ihre Schutzbedarfe im Hinblick auf neuartige Daten, die sie als sensibel empfinden, umsetzen zu können. Im Hinblick auf das Verständnis von Privatsphäre-Management im Internet der Dinge (IoT) nimmt die vorliegende Arbeit eine solche HCI-Perspektive ein und konzentriert sich über mehrere konkrete Anwendungstechnologien hinweg hauptsächlich auf drei miteinander verbundene Ziele: 1. Exploration und Analyse der Frage, wie Menschen Daten Sinn zuschreiben, insbesondere im Management von Datenschutz und in der Preisgabe von Daten; 2. Identifikation, Konzeptualisierung und Evaluation potentieller Ressourcen für die Gestaltung Sinnzuschreibungs-Prozessen; und 3. Untersuchung der Eignung der identifizierten Konzepte für die Aufnahme in rechtliche und technische Perspektiven zur Unterstützung von Entscheidungen im Bereich Datenschutz im Kontext des IoT. Obwohl der Ausgangspunkt dieser Arbeit die HCI-Perspektive ist, betont sie die Bedeutung der Wechselbeziehungen zwischen den scheinbar unabhängigen Perspektiven. Diesen Interdependenzen wird Rechnung getragen, indem die gesamten Studie sich einem nutzerzentrierten Designprozess verschreibt. Genauer noch wird in dieser Arbeit ein Design-Fallstudien-Ansatz verwendet. Dieser Ansatz ermöglicht für einen konkreten Anwendungsfalls die Durchführung vollständig nutzerzentrierter Gestaltungsprozesszyklen mit Teilnehmern im Kontext des Alltagslebens. Darauf aufbauend Ansatz war es möglich, mehrere Bereiche des IoT zu untersuchen, die aktuell relevant sind, nämlich Smart Metering, Smartphones, Smart Homes und das vernetzte Auto. Die Ergebnisse zeigen, dass die Teilnehmer weniger um (Roh-)Daten besorgt waren als um über die Informationen, die potenziell daraus abgeleitet werden könnten. Vor dem Hintergrund der ständigen Sammlung hochtechnischer und abstrakter Daten, deren Inhalt erst durch die Anwendung von komplexen Algorithmen ersichtlich wird, weist diese Studie darauf hin, dass Menschen lernen sollten, entsprechende Daten flexibel zu explorieren und zu verstehen und gibt Einblicke darin, wie für die Erreichung dieses Ziels gestaltet werden sollte. Unter dem Gesichtspunkt der Gestaltung für gebrauchstaugliche Maßnahmen zum Schutz der Privatsphäre, sollten Informationen, die den Benutzern über die Offenlegung von Daten zur Verfügung gestellt werden sich auf die sich daraus ergebenden Folgen für die Umwelt und das Leben der Nutzer konzentrieren. Ein verwandtes Konzept aus dem Recht ist die "informierte Einwilligung", das, wie ich vorschlage, weiterentwickelt werden sollte, um gebrauchstaugliche Mechanismen für den Schutz der Privatsphäre des Einzelnen im Zeitalter das IoT bereitzustellen. Schließlich zeigt diese Arbeit, wie HCI-Forschung methodisch in einen regulativen Prozess eingebettet werden kann, um sowohl die die Entwicklung von Technologien und die Ausarbeitung von Gesetzen aus Nutzersicht zu informieren.