Abstract

Autonome Softwareagenten sind mathematisch formalisierte Informationsflüsse, denen schon heute in Wirtschaft und Gesellschaft unter bestimmten Bedingungen soziale Identität und Handlungsfähigkeit zugeschrieben wird. Aufgrund sozialer Handlungszurechnung sind sie zu nicht-menschlichen Mitgliedern der Gesellschaft geworden. Sie werfen drei neue Verantwortungsrisiken auf: (1) das Autonomierisiko, das in eigenständigen „Entscheidungen“ der Softwareagenten seinen Ursprung hat, (2) das Verbundrisiko, das auf die enge Kooperation von Menschen und Softwareagenten zurückzuführen ist, und (3) das Vernetzungsrisiko, das entsteht, wenn Computer in enger Verflechtung mit anderen Computern agieren. Diese Risiken stellen das Privatrecht vor die Herausforderung, für autonome digitale Informationssysteme einen neuen Rechtsstatus zu bestimmen – freilich nicht als volle Personifizierung von Softwareagenten, Mensch-Computer- Assoziationen oder Multi-Agenten-Systemen. Als Antwort auf die drei Risiken sollte vielmehr den Algorithmen jeweils ein auf ihre konkrete Rolle sorgfältig kalibrierter Rechtsstatus zuerkannt werden.

Autonomous software agents are mathematically formalized information flows. Already today in the economy and in society, they are attributed social identity and ability to act under certain conditions. Due to social action attribution, they have become non-human members of society. They pose three new liability risks: (1) the risk of autonomy, which has its origin in stand-alone “decisions” taken by the software agents, (2) the composite risk, which is due to the close cooperation between people and software agents, and (3) the network risk that occurs when computer systems operate in close integration with other computer systems. These risks pose a challenge for private law: to define a new legal status for autonomous digital information systems – however not simply as complete legal personification of software agents, human-computer associations or multi-agent systems respectively. Rather, in response to each of the three risks, a legal status should be granted to each of the algorithmic types that is carefully calibrated to their specific role.