TRUTHFUL REPUTATION MECHANISMS FOR ONLINE SYSTEMS

Transcription

1 TRUTHFUL REPUTATION MECHANISMS FOR ONLINE SYSTEMS THÈSE N O 3955 (2007) PRÉSENTÉE LE 29 OCTOBRE 2007 À LA FACULTÉ INFORMATIQUE ET COMMUNICATIONS Laboratoire d'intelligence artifi cielle SECTION D'INFORMATIQUE ÉCOLE POLYTECHNIQUE FÉDÉRALE DE LAUSANNE POUR L'OBTENTION DU GRADE DE DOCTEUR ÈS SCIENCES PAR Radu JURCA ingénieur en informatique diplômé de l'université Polytechnique de Timisoara, Roumanie et de nationalité roumaine acceptée sur proposition du jury: Prof. T. Henzinger, président du jury Prof. B. Faltings, directeur de thèse Prof. K. Aberer, rapporteur Prof. C. Dellarocas, rapporteur Prof. T. Sandholm, rapporteur Lausanne, EPFL 2007

2 iii Résumé L internet constitue aujourd hui un milieu interactif où les communautés et les économies virtuelles gagnent de l importance par rapport à leurs contreparties traditionnelles. Tandis que ce décalage crée des occasions et avantages qui ont déjà améliorés notre vie quotidienne, il apporte également une toute nouvelle série de problèmes. Par exemple, le manque d interaction physique qui caractérise la majorité des transactions électroniques rend les systèmes beaucoup plus susceptibles à la fraude et à la tromperie. Les mécanismes de réputation offrent une manière nouvelle et efficace d assurer la confiance qui est essentielle au fonctionnement de chaque marché. Ils rassemblent les informations sur l histoire (c.-à-d. les transactions antérieures) des agents qui participent dans le marché, et publient leur réputation. Les futurs associés guident leurs décisions en considérant l information sur la réputation, et sont ainsi capable de faire les meilleurs choix. Les mécanismes de réputation en ligne connaissent un succès remarquable: ils sont présents dans la plupart des systèmes commerciaux déployés aujourd hui, et sont sérieusement consultés par les utilisateurs humains. La valeur économique de la réputation en ligne soulève des questions concernant la fiabilité des mécanismes eux-mêmes. Les systèmes actuels ont été conçus en supposant que les utilisateurs partageront honnêtement leurs avis. Cependant, des études récentes ont démontré qu il existe des utilisateurs qui dénaturent la vérité pour manipuler la réputation. La présente thèse décrit différentes manières de rendre les mécanismes de réputation en ligne plus dignes de confiance, en encouragent les participants à communiquer honnêtement les informations qu ils détiennent. Différents types de mécanismes de réputation sont étudiés, et pour chacun, des mécanismes pour récompenser les agents qui rapportent la vérité sont présentés. Les problèmes liés à la complicité (c.-à-d. la coordination de la stratégie de plusieurs agents afin de manipuler le système) et à la robustesse sont également étudiés. De plus, cette thèse décrit une nouvelle application des mécanismes de réputation pour surveiller la qualité livrée par des fournisseurs de services, et étudie les facteurs qui motivent et influencent des utilisateurs humains qui postent leurs avis dans des forums existants. Mots clés: mécanismes de réputation en ligne, feedback, incentive-compatibility, la collusion, mechanism design, la théorie des jeux

3 v Abstract The internet is moving rapidly towards an interactive milieu where online communities and economies gain importance over their traditional counterparts. While this shift creates opportunities and benefits that have already improved our day-to-day life, it also brings a whole new set of problems. For example, the lack of physical interaction that characterizes most electronic transactions, leaves the systems much more susceptible to fraud and deception. Reputation mechanisms offer a novel and effective way of ensuring the necessary level of trust which is essential to the functioning of any market. They collect information about the history (i.e., past transactions) of market participants and make public their reputation. Prospective partners guide their decisions by considering reputation information, and thus make more informative choices. Online reputation mechanisms enjoy huge success. They are present in most e-commerce sites available today, and are seriously taken into consideration by human users. The economical value of online reputation raises questions regarding the trustworthiness of mechanisms themselves. Existing systems were conceived with the assumption that users will share feedback honestly. However, we have recently seen increasing evidence that some users strategically manipulate their reports. This thesis describes ways of making online reputation mechanisms more trustworthy by providing incentives to rational agents for reporting honest feedback. Different kinds of reputation mechanisms are investigated, and for each, I present mechanisms for rewarding the agents that report truthfully. Problems related to collusion (i.e., several agents coordinate their strategies in order to manipulate reputation information) and robustness are also investigated. Moreover, this thesis describes a novel application of incentive compatible reputation mechanisms to the area of quality of service monitoring, and investigates factors that motivate and bias human users when reporting feedback in existing review forums. Keywords: Online reputation mechanisms, feedback, incentive-compatibility, collusion, reporting behavior, mechanism design, game theory

4 Contents 1 Introduction Summary of the Thesis Trust, Reputation and Reputation Mechanisms Modelling Trust Reputation The nature of reputation information The role of reputation information Reputation Mechanisms for Online Systems Online Implementations Academic Models Empirical studies of Reputation Mechanisms Other Aspects related to Reputation Mechanisms Truthful Signaling Reputation Mechanisms A Formal Model Incentives for Honestly Reporting Feedback Incentive-compatible Payment Mechanisms Automated Design of Incentive-compatible Payment Mechanisms Example Unknown Lying Incentives Computational Complexity and Possible Approximations Further Decreasing the Feedback Payments Using Several Reference Reports ix

5 x Contents Filtering out False Reports Robust Incentive-Compatible Payment Mechanisms Dishonest Reporting with Unknown Beliefs Declaration of Private Information Computing Robust Incentive-Compatible Payments General Tolerance Intervals for Private Information Collusion-resistant, Incentive-compatible Rewards Collusion Opportunities in Binary Payment Mechanisms Automated Design of Collusion-resistant Payments Full Coalitions on Symmetric Strategies, Non-Transferable Utilities Full Coalitions on Asymmetric Strategies, Non-Transferable Utilities Partial Coalitions on Symmetric Strategies, Non-Transferable Utilities Partial Coalitions on Asymmetric Strategies, Non-Transferable Utilities Partial Coalitions on Asymmetric Strategies, Transferable Utilities Related Work Summary of Results A Summary of Notation B Generating Random Settings C Cardinality of Q(N ref ) D Proof of Lemma E Generating Random Binary Settings F Proof of Proposition G Proof of Proposition Novel Applications of Signaling Reputation Mechanisms - QoS Monitoring Formal Model and Assumptions Interaction Protocol Implementation of a Prototype Incentive-compatible Service Level Agreements Example of Incentive-compatible SLAs Reliable QoS Monitoring

6 Contents xi Example Deterring Malicious Coalitions Using Trusted Monitoring Infrastructure Summary of Results A Summary of Notation Sanctioning Reputation Mechanisms Related Work The Setting Example Strategies and Equilibria Efficient Equilibrium Strategies Designing Efficient Reputation Mechanisms Probabilistic Reputation Mechanisms Deterministic Reputation Mechanisms using Mixed Strategies Deterministic Reputation Mechanisms with Pure Strategies Feedback Granularity A Mechanism for Obtaining Reliable Feedback Reports The CONFESS Mechanism Behavior and Reporting Incentives Implementation in the Reputation Mechanism Analysis of Equilibria Building a Reputation for Truthful Reporting The Threat of Malicious Clients Remarks Summary of Results A Summary of Notation B Appendix: Proof of Proposition C Appendix: Proof of Proposition D Proof of Proposition E Proof of Proposition

7 xii Contents 6 Understanding Existing Online Feedback The Data Set Formal notation Evidence from Textual Comments Correlation between Reporting Effort and Transactional Risk The Influence of Past Ratings Prior Expectations Impact of Textual Comments on Quality Expectation Reporting Incentives Modelling the Behavior of Raters Model Validation Summary of Results A List of words, L R, associated to the feature Rooms Conclusions Directions for Future Work From lists of reviews to designed reputation mechanisms Signaling and sanctioning reputation mechanisms Factoring human behavior into reputation mechanism design Mechanisms for social networks and P2P systems Reputation mechanisms translated to other domains Bibliography 193